OpenAI: ricercatori licenziati per aver usato Signal?

Nuovi aggiornamenti sulla vicenda relativa ai tre ricercatori licenziati da OpenAI senza una valida spiegazione. Secondo il Wall Street Journal, l’azienda californiana sostiene che hanno condiviso informazioni sensibili con Ryan Greenblatt, ex Chief Scientist di Redwood Research, usando i messaggi effimeri di Signal.

Nessuna spiegazione scritta da OpenAI

Dall’inizio di ottobre, quando Jasmine Wang, Tomek Korbak e Mikita ⁠Balesni sono stati licenziati, continua lo scontro a distanza tra i ricercatori e OpenAI. L’azienda californiana ha nuovamente ribadito quanto affermato circa due settimane fa. Il loro licenziamento è dovuto alla violazione delle regole sulla gestione di informazioni sensibili, non per aver segnalato possibili problemi di sicurezza dei modelli AI.

I tre ricercatori contestano tale versione, in quanto non hanno mai ricevuto una spiegazione scritta su quali informazioni sensibili avrebbero gestito in modo improprio. Hanno invece evidenziato i rischi associati all’architettura dei nuovi modelli Astra che ostacola il monitoraggio.

Ryan Greenblatt, ex Chief Scientist di Redwood Research, ha scritto un articolo per invitare le aziende a non cambiare l’architettura. Balesni ha condiviso il link nel canale Slack di OpenAI e successivamente ha inviato una simile proposta ai dirigenti dell’azienda californiana. Questa proposta è stata condivisa con Greenblatt, dopo aver ricevuto l’autorizzazione da OpenAI e rimosso tutte le informazioni confidenziali.

A fine luglio è stato svelato il noto incidente Hugging Face. OpenAI ha scelto METR per indagare sull’accaduto, limitando però l’accesso alle informazioni. Korbak era il referente dell’organizzazione. METR ha assunto Greenblatt per velocizzare l’analisi dei log degli agenti. Korbak ha usato Signal per comunicare con Greenblatt.

All’inizio di settembre, The Information ha pubblicato un articolo che svelava l’uso della nuova architettura con il modello Astra e le maggiori difficoltà di monitorare la sua catena di ragionamento. Secondo OpenAI, Greenblatt avrebbe fornito a The Information le informazioni ottenute dai ricercatori. Balesni e Korbak sarebbero stati licenziati per aver usato i messaggi effimeri di Signal per comunicare con Greenblatt.

Il ricercatore, oggi membro dello staff tecnico di METR, ma respinto le accuse, affermando di non aver ricevuto nessuna informazione sensibile dai due ex dipendenti di OpenAI, né di averle comunicate a The Information. Wang è stata licenziata per aver letto involontariamente un’email di un dirigente, ma non ha svelato a nessuno il contenuto.

METR ha recentemente svelato di aver individuato varie vulnerabilità nel sistema di monitoraggio di OpenAI. L’organizzazione è stata scelta anche da Anthropic per la valutazione dei suoi modelli.