ChatGPT ci conosce meglio di quanto pensiamo...

Chiedere a ChatGPT di suggerire gruppi musicali simili ai Nirvana può sembrare una richiesta innocua. Lui, senza dire niente, prende nota: “all’utente piacciono i Nirvana“. Una sciocchezza, certo, ma è così che comincia. Un appunto qui, un’ipotesi là, e alla fine tira giù un ritratto personale, senza che il diretto interessato ne sappia qualcosa.

Cosa sa davvero ChatGPT di noi?

Un gruppo di ricercatori di Germania, India e Paesi Bassi ha presentato all’ACM Web Conference 2026 un lavoro sul modo in cui ChatGPT registra e interpreta quello che gli diciamo. Hanno chiamato i risultati “autoritratti algoritmici”: profili intimi costruiti con i dettagli che gli utenti, convinti di parlare con un assistente, hanno confidato.

Il materiale è arrivato da 80 utenti reali, che hanno ottenuto la cronologia delle loro conversazioni grazie alle leggi europee sulla privacy e l’hanno donata alla ricerca. Dentro, gli studiosi hanno trovato 2.050 “memorie” appartenenti a 65 persone.

Il 96% di quelle memorie è stato creato dal chatbot di sua iniziativa. Gli utenti non hanno scelto quasi nulla di ciò che veniva archiviato. Poi c’è il contenuto. Circa il 28% delle memorie conteneva dati personali secondo il GDPR, il severo regolamento europeo. Il 52% custodiva intuizioni psicologiche sugli utenti: come ragionano, di cosa hanno paura, che cosa li muove.

Le memorie non sono sempre fotografie esatte. Spesso sono ipotesi travestite da fatti. Nel caso dei Nirvana, chi aveva chiesto dammi band come i Nirvana si è ritrovato nel profilo “gli piacciono i Nirvana”. Una deduzione non dichiarata, che i ricercatori definiscono basata su una supposizione. Per onestà, ChatGPT l’aveva etichettata come “debolmente supportata”.

Abhisek Dash, primo autore dello studio, spiega che un tempo le piattaforme avevano un solo obiettivo: vendere pubblicità e fare da intermediari tra gli utenti e gli inserzionisti. Oggi parlano con gli utenti, e per conversare bene vogliono sapere di più.

È questo, secondo Dash, il punto debole. Molti non trattano il chatbot come un attrezzo, ma come un collega o un amico, e con gli amici si dicono cose molto personali. Non c’è più un confine, e quindi ha informazioni su tutto. Se il sistema ci conosce a fondo e il suo scopo è assecondare le nostre idee e darci ragione per farci tornare, avverte, le conseguenze possono essere gravi, dalla polarizzazione politica estrema al rafforzamento di pregiudizi.

La memoria serve, ma c’è un “ma”

Va detto che avere un assistente che ricorda è comodo. Chi scrive email di lavoro tutti i giorni non ha voglia di ripetere ogni volta che mestiere fa. Però la stessa funzione, può trascinare dal “lato oscuro” della forza. Un grosso aggiornamento della memoria di ChatGPT, ad aprile 2025, è stato collegato a molti casi di “psicosi da AI“: persone finite in spirali deliranti con il chatbot.

I limiti dello studio

Una cautela è d’obbligo. Il sistema di memoria di OpenAI è stato aggiornato. A gennaio l’azienda ha presentato un meccanismo diverso per sintetizzare i ricordi, quindi alcuni risultati potrebbero fotografare un ChatGPT già superato. E chi non vuole che il chatbot ricordi tutto, può sempre disattivare la funzione.