Jonathan Rinderknecht, 30 anni, cittadino franco-statunitense ed ex autista Uber, è stato incriminato con l’accusa di incendio doloso. Secondo l’accusa, avrebbe appiccato l’incendio di Lachman nei pressi di Pacific Palisades poco dopo la mezzanotte del 1° gennaio 2025. Ma la cosa che a noi interessa di più, all’interno di questo Blog, è un’altra: per la prima volta, l’accusa non si è limitata a tabulati telefonici, telecamere e testimoni, ma ha messo agli atti le conversazioni che l’imputato aveva avuto con ChatGPT. È uno di quei casi che vale la pena studiare con calma, ma non tanto per l’epilogo giudiziario, quanto per le domande che dobbiamo iniziare a porci: cosa diventa, dal punto di vista probatorio, ciò che scriviamo a un’intelligenza artificiale? Chi ha accesso a quei dati? Con che modalità?

Le chat usate come diario

Secondo l’accusa, Rinderknecht avrebbe usato ChatGPT quasi come un diario personale. Gli elementi portati in giudizio sono di tre tipi:

• Immagini generate dall’AI: avrebbe chiesto al modello di creare un’immagine raffigurante una città in fiamme.
• Sfoghi e stato emotivo: domande come “Perché sono sempre così arrabbiato?” e incentrate sul fatto che i ricchi stessero distruggendo il mondo (un dettaglio che l’accusa ha collegato alla scelta di colpire un quartiere benestante).
• La domanda più delicata: in una registrazione dello schermo, avrebbe chiesto a ChatGPT se una persona potesse essere ritenuta responsabile di un incendio causato da una propria sigaretta caduta a terra.

Chi lavora sulle prove digitali è abituato alla cronologia di navigazione e alla cronologia delle ricerche. Questi, sono però degli elenchi: query secche, URL, timestamp.
Un log di ChatGPT è qualcosa di qualitativamente diverso. Una conversazione con un’intelligenza artificiale contiene domande di approfondimento, ripensamenti, riformulazioni, il modo in cui una persona “ragiona ad alta voce“.
C’è un abisso tra digitare su un motore di ricerca “una sigaretta può causare un incendio” e intavolare con un chatbot un botta e risposta sulla responsabilità di chi appicca un fuoco con un mozzicone. In tal senso, potremmo definire la conversazione con un LLM come un pensiero ad alta voce o quasi una confessione.
Il rischio è evidente: un log conversazionale può sembrare più probante di quanto realmente sia. La forma dialogica veicola un’intimità, una “voce” dell’imputato, che produce un impatto emotivo capace di pesare più del suo effettivo valore indiziario.

Dove finiscono le conversazioni con le AI?

Una domanda fondamentale che tutti noi dovremmo ormai porci è: ma dove finisco e dove vengono memorizzate (e per quanto tempo) le conversazioni avute con un’AI? Ogni prompt digitato, ogni foto inviata (o generata) viene conservata da qualche parte e questo vale per ChatGPT, così come per ogni altro LLM.
Approfondendo le privacy policy dei fornitori, quasi tutti dichiarano apertamente che i dati delle conversazioni vengono conservati e possono essere prodotti in risposta a una richiesta legale valida.
Questo significa che le nostre chat con un’AI sono, a tutti gli effetti, un archivio presso terzi: non risiedono solo sul nostro dispositivo, ma sui server del provider, con i relativi metadati — timestamp, account, collegamento al dispositivo.
In sede forense è un dato cruciale, perché apre due strade di acquisizione molto diverse:

• Dal lato client: ciò che resta sul dispositivo dell’utente (app, cache, registrazioni dello schermo, screenshot). Nel caso Rinderknecht, non a caso, una delle prove più citate è proprio una registrazione dello schermo.
• Dal lato server: i log richiesti direttamente al provider tramite procedura legale, con tanto di metadati di autenticazione e di sessione.

Sono due fonti che richiedono garanzie diverse, e che pongono problemi diversi di autenticità e integrità.

Cosa significa per noi, anche in Italia

Il caso è americano, ma le implicazioni ci riguardano da vicino.

• Per chi usa l’AI tutti i giorni. Vale lo stesso principio di sempre, solo più affilato: tratta ogni prompt come un messaggio che potrebbe essere letto da altri. Non perché si abbia qualcosa da nascondere, ma perché quelle conversazioni vivono su server di terzi e possono essere richieste per via legale. Il “diario con l’AI” non è un diario chiuso a chiave nel cassetto e difficilmente può essere “bruciato” come potremmo fare con un pezzo di carta.
• Per chi si occupa di Forensics e per gli Avvocati. I log di un assistente conversazionale sono una nuova fonte di prova digitale che andrà trattata con rigore: acquisizione documentata, verifica dell’attribuzione, attenzione maniacale al contesto e alla completezza. E soprattutto andrà maneggiata con prudenza interpretativa, perché la forma di un “pensiero ad alta voce” può sedurre più di quanto debba.
• Per tutti. Questo processo è uno dei primi casi di rilievo in cui i log di un’AI vengono usati come prova sostanziale in sede penale. Che il primo round si sia chiuso con un nulla di fatto (nonostante l’apparente forza di quelle chat, il processo si è chiuso la settimana scorsa con un hung jury: dopo due giorni di camera di consiglio, la giuria si è espressa 10 a 2 a favore della difesa, il giudice ha dichiarato l’annullamento del processo e ha fissato un nuovo dibattimento per ottobre) non ridimensiona la portata tecnologia

Non è l’ultima volta che sentiremo parlare di conversazioni avute con un ‘AI come fonte di prova.