OpenAI limita Astra: il nuovo modello AI è troppo potente

La questione della sicurezza dei modelli di intelligenza artificiale assume sempre più rilevanza alla luce delle loro capacità e soprattutto degli ultimi incidenti, come quello dell’hack di Hugging Face in cui delle AI hanno agito autonomamente. Inutile dire che un’azienda come OpenAI, all’origine di questi agenti AI incriminati, deve ormai mostrarsi estremamente seria sulla questione. E l’allarme che il colosso ha appena lanciato rientra sicuramente in questo approccio.

Il modello AI Astra avrebbe una potenza mai vista in OpenAI

Si ricorderà Anthropic qualche mese fa, quando aveva annunciato di aver dato vita a un modello troppo potente, Mythos, per una diffusione pubblica. L’azienda di Sam Altman prende oggi la stessa strada, secondo quanto dichiarato da funzionari di OpenAI riportati da Reuters. Il suo nuovo modello, battezzato Astra, sarebbe in grado di individuare più falle di sicurezza informatica rispetto ai più potenti modelli attuali di OpenAI.

Con gli strumenti e gli accessi appropriati, Astra è in grado di rilevare falle di sicurezza finora sconosciute e di mettere a punto metodi per sfruttarle su numerosi sistemi ben protetti, senza che una persona debba supervisionare ogni singolo passaggio, ha dichiarato la vicepresidente Amelia Glaese.

Le misure di sicurezza potrebbero rendere l’utilizzo di Astra meno fluido

Astra è il primo modello in assoluto ad aver superato la soglia che attiva le misure di protezione rafforzata previste nel protocollo di sicurezza di OpenAI, una soglia che fino ad allora era semplicemente teorica. Da allora, OpenAI ha reso più difficile ottenere da Astra azioni informatiche malevole. L’azienda monitorerà inoltre la sua attività e cercherà segnali che il modello abbia oltrepassato i vincoli di sicurezza.

Il suo lancio dovrebbe iniziare a brevissimo, con un accesso offerto inizialmente a un ristretto gruppo di persone. Tutte queste misure potrebbero talvolta rallentare, interrompere o bloccare attività legittime, secondo Amelia Glaese. Sarà davvero sufficiente, considerando quanto l’AI abbia già reso più efficaci gli attacchi informatici?