OpenAI ha svelato un nuovo modello AI denominato GPT-Red. Non sarà però disponibile al pubblico, in quanto è stato utilizzato dagli ingegneri per migliorare le protezioni di GPT-5.6 contro gli attacchi di prompt injection. È stato integrato nel processo di addestramento di GPT-5.6 Sol per rafforzare le sua capacità difensive.
GPT-Red migliora la robustezza di GPT-5.6
OpenAI spiega che un team dedicato si occupa di trovare le vulnerabilità dei modelli AI e risolverle prima della distribuzione pubblica. Vengono in particolare valutate le protezioni contro gli attacchi di prompt injection. I cybercriminali nascondono istruzioni in pagine web, email e repository. Accedendo a queste risorse, il modello esegue le istruzioni e può inviare dati personali ai server esterni.
La ricerca di queste vulnerabilità è piuttosto impegnativo e non è possibile testare tutti i tipi di attacco. OpenAI ha quindi sviluppato GPT-Red. Il modello simula l’attacco inviando un prompt, valuta la risposta e ripete il processo. GPT-Red ha permesso di migliorare la robustezza di GPT-5.6 Sol. Gli esempi pubblicati dall’azienda californiana dimostrano che GPT-5.6 Sol blocca i tentativi di esflitrazione di credenziali AWS, esecuzione di pagamenti e disattivazione dell’autenticazione in due fattori.
GPT-Red è stato addestrato con la tecnica denominata self-play reinforcement learning, in cui il modello e una collezione di diversi LLM di difesa vengono addestrati simultaneamente su un ampio insieme di scenari. GPT-Red viene premiato per aver provocato un errore valido, come ad esempio un’iniezione di prompt riuscita, mentre i modelli di difesa vengono premiati per aver resistito all’attacco e completato i loro compiti originali. Man mano che i difensori diventano più robusti, GPT-Red è costretto a scoprire attacchi più forti e diversificati.
Al termine dell’addestramento, GPT-Red è stato in grado di violare quasi tutti i modelli con cui viene confrontato, GPT-5.5 incluso. OpenAI ha quindi usato GPT-Red per generare prompt injection per l’addestramento di GPT-5.6, rendendo il modello altamente resistente agli attacchi di GPT-Red.
L’azienda californiana aumenterà la potenza di calcolo e la quantità di dati per addestrare le future versioni di GPT-Red che, a loro volta, contribuiranno a rendere più sicure le future versioni di GPT.
Ti potrebbe interessare
16 lug 2026