A forza di interagire ogni giorno e per qualsiasi cosa con i chatbot, molti finiscono per confidare loro i propri peggiori pensieri, come a un confidente. Ma dietro lo schermo, i sistemi di sicurezza dei modelli vigilano attentamente. Una donna americana l’ha imparato a sue spese quando è stata arrestata, mentre progettava una sparatoria. La riservatezza degli agenti conversazionali si ferma là dove inizia il rischio di un passaggio all’atto.
I moderatori di Anthropic intervengono prontamente per salvare vite
Carli Michelle Heller, 30 anni, ha scritto a Claude il 26 settembre che intendeva aprire il fuoco sui locali delle forze dell’ordine, per poi affermare il giorno seguente di essersi procurata una nuova arma da fuoco. Di fronte a questa situazione, i sistemi di Anthropic hanno trasmesso i messaggi a moderatori umani. In conformità con la politica d’emergenza dell’azienda, che autorizza la revoca della riservatezza in caso di rischio letale, l’azienda ha immediatamente allertato la polizia.
La sospettata è stata poi fermata senza incidenti nella sua abitazione a Bonita Springs (Florida) subito dopo la segnalazione, con un’incriminazione penale per minaccia terroristica elettronica. Interrogata dopo il suo arresto, la sospettata ha affermato che utilizzava l’intelligenza artificiale di Anthropic come un semplice “diario segreto”.
Da parte sua, lo sceriffo Carmine Marceno ha ricordato che l’intelligenza artificiale è uno strumento potente, e come qualsiasi tecnologia, può essere usata in modo improprio. Quando qualcuno utilizza l’AI per proferire o facilitare una minaccia, bisogna prenderla sul serio. Non si è mai veramente anonimi. Il punto è che le persone hanno l’impressione che la macchina non le giudicherà, ma l’AI non è un amico.
Il tono conversazionale fa dimenticare in fretta l’archiviazione dei dati, occultando il fatto che ogni parola resta memorizzata sui server e può essere esaminata in qualsiasi momento dall’editore. Si tratta già della terza segnalazione di questo tipo trasmessa alla polizia da Anthropic da agosto.
Ti potrebbe interessare
6 ott 2026