I nuovi modelli AI preoccupano gli ex dipendenti di OpenAI

La scorsa settimana è emerso che OpenAI aveva licenziato tre dipendenti accusandoli di aver condiviso informazioni ritenute sensibili con un’organizzazione esterna. Due erano ricercatori specializzati in sicurezza, mentre il terzo si occupava di programmi di ricerca. Sono proprio queste tre persone ad aver inviato ora una lettera ai vertici di OpenAI per esprimere le proprie preoccupazioni.

Ex dipendenti di OpenAI lanciano l’allarme: Rischiamo di non capire più l’AI

In una lettera inviata da un trio di ex dipendenti di OpenAI, alla quale il Wall Street Journal ha potuto accedere, si legge che cresce la preoccupazione riguardo alla sicurezza dei modelli AI più avanzati.

Spiegano così di temere che le società che sviluppano AI finiscano per perdere il filo della catena di ragionamento dei loro modelli. Per chiarezza, la catena di ragionamento è una registrazione scritta dell’insieme dei ragionamenti adottati dall’AI nella risoluzione di un problema. Non poterla più seguire renderebbe l’AI illeggibile, il che equivarrebbe a una perdita di controllo umano.

OpenAI convalida le preoccupazioni degli ex dipendenti e nega che il loro licenziamento abbia un legame con questi timori

Una potenziale pericolosità delle AI illeggibili confermata nel seguito della lettera. Come industria, non sappiamo ancora come sviluppare e implementare in tutta sicurezza modelli che non possiamo monitorare, affermano gli ex dipendenti di OpenAI. Di conseguenza, OpenAI e altre aziende pioniere non dovrebbero perseguire sviluppi che ridurrebbero ulteriormente questa capacità di leggere l’AI.

Hanno inoltre approfittato di questa lettera per dichiarare di non credere di aver stabilito contatti con terzi al di fuori dell’ambito delle proprie funzioni, ciò che veniva loro contestato per giustificare l’allontanamento. Per loro, il licenziamento ha avuto un effetto dissuasivo su coloro che restano in OpenAI. Da parte dell’azienda di Sam Altman, se condividono queste preoccupazioni, smentisce di aver licenziato queste tre persone per le loro opinioni.