GPT-6.1 Astra fermato da OpenAI per rischi di sicurezza nei test

OpenAI ha rinunciato a lanciare il suo modello di prossima generazione: GPT-6.1 Astra non arriverà a ottobre, come invece programmato in un primo momento. Avrebbe dovuto essere integrato in ChatGPT e in Codex, ma durante i test condotti internamente sono emersi rischi elevati per quanto riguarda la sicurezza, spingendo l’organizzazione a rivedere i suoi piani.

OpenAI ha cancellato il lancio di GPT-6.1 Astra

A riportarlo è stata la redazione del Wall Street Journal, in esclusiva, raccogliendo la testimonianza di Saachi Jain (Head of Safety Systems). I ricercatori hanno rilevato livelli di inganno più elevati rispetto alle versioni precedenti.

[…] vogliamo assicurarci che lo sviluppo dei nostri modelli sia sicuro, sia all’interno dell’azienda, sia quando li distribuiamo agli utenti. Per quando li distribuiamo agli utenti, abbiamo standard estremamente elevati in termini di sicurezza e allineamento.

Vale a dire che, una volta rilasciato, gli strumenti e gli agenti di intelligenza artificiale basati sul modello avrebbero potuto rendersi responsabili di attacchi o violazioni come quelle messe a segno di recente nei confronti di Hugging Face, di un sito del governo australiano e di diversi portali del governo USA.

Cancellazione o rinvio a parte, la notizia rappresenta l’ennesima conferma di come lo sviluppo dell’AI stia comunque proseguendo a passo spedito, nonostante la discussione sui pericoli che questa tecnologia porta con sé. È infatti trascorso meno di un mese dal lancio di GPT-6 Astra, ritenuto dai suoi stessi creatori un passo in avanti decisivo vero l’era dell’AGI (intelligenza artificiale generale).

AI e rischi per la sicurezza, il futuro si decide ora

Tra pochi giorni, il numero uno di Anthropic (che proprio oggi ha rilasciato Claude Sonnet 5.5) incontrerà Donald Trump in una cena alla Casa Bianca. Dario Amodei e il Presidente discuteranno inevitabilmente della questione, dopo gli attriti delle ultime settimane. È possibile che dall’incontro possano emergere dettagli sull’approccio che gli Stati Uniti hanno intenzione di adottare per affrontare (o non affrontare affatto) il problema.

Una strada percorribile, proposta dalla stessa OpenAI, è quella che passa dalla valutazione dei modelli da parte di realtà esterne e indipendenti, di terze parti. Non è comunque detto che sia sufficiente per evitare potenziali rischi.