ChatGPT non è umano: possibile ban in Florida?

Dopo aver presentato una denuncia all’inizio giugno, il Procuratore Generale della Florida (James Uthmeier) ha chiesto al giudice di emettere un’ingiunzione temporanea (PDF) per impedire a OpenAI di sviluppare nuovi modelli. L’azienda californiana non deve inoltre dare “falsi attributi umani” a ChatGPT che ingannano l’utente. Ciò equivale in pratica al ban del chatbot.

OpenAI non è in grado di gestire la sua tecnologia

James Uthmeier aveva denunciato OpenAI per aver nascosto al pubblico i rischi derivanti dall’uso di ChatGPT. Nella denuncia di giugno erano citati diversi eventi tragici (omicidi e suicidi) correlati all’uso del chatbot. Il Procuratore ha accusato quindi l’azienda californiana di aver ingannato gli utenti e progettato il chatbot per creare dipendenza.

Nella richiesta di ingiunzione temporanea viene ancora evidenziata la falsa pubblicità sulla sicurezza. Il Procuratore ha sottolineato inoltre la antropomorfizzazione di ChatGPT che inganna gli utenti. OpenAI ha dato al chatbot falsi attributi umani.

L’uso del linguaggio da parte di ChatGPT – inclusi i pronomi in prima persona e risposte che imitano le emozioni – suggerisce in modo ingannevole agli utenti che si tratti di un amico affidabile.

Il Procuratore chiede che venga bloccato l’uso di ChatGPT da parte dei minori di 13 anni, in quanto non c’è nessun sistema di verifica dell’età. Una parte della denuncia è riservata ai recenti incidenti di sicurezza, ovvero gli attacchi effettuati da agenti AI contro Hugging Face, RubyGems e i siti dei governi (Australia e Stati Uniti).

Considerata l’incapacità di controllare la sua tecnologia, il giudice dovrebbe emettere un’ingiunzione temporanea per bloccare lo sviluppo dei modelli da parte di OpenAI finché non verranno implementate protezioni sufficienti e approvate da terze parti.

Un portavoce di OpenAI ha dichiarato:

Le persone vogliono avere la certezza che l’AI venga sviluppata in modo sicuro, e questo inizia dalle azioni concrete intraprese da aziende come la nostra. Venerdì abbiamo annunciato la sospensione dell’addestramento dei nostri modelli più avanzati. Riprenderemo l’attività solo quando saremo certi di aver implementato ulteriori misure di sicurezza. I governi svolgono un ruolo fondamentale nel definire standard di sicurezza rigorosi per l’AI. Noi ci impegniamo a collaborare con la Florida e altri stati per promuovere politiche pragmatiche che si applichino all’intero settore dell’AI, e non a una singola azienda.

La sospensione dell’addestramento è passata quasi inosservata in quanto la notizia è “nascosta” nella descrizione dell’incidente che riguarda un modello in sviluppo.