OpenAI annuncia un tool per rilevare immagini IA

OpenAI ha svelato un nuovo tool che permette di identificare le immagini generate con DALL-E 3, il noto modello text-to-image usato anche da Microsoft per Copilot Designer (ex Bing Image Creator). L’azienda guidata da Sam Altman promette un successo del 98%. Annunciati inoltre la collaborazione con C2PA e il lancio del Societal Resilience Fund.

Detection classifier per immagini

Le immagini generate dall’intelligenza artificiale sono quasi indistinguibili da quelle reali. È necessario quindi fornire agli utenti gli strumenti adatti per riconoscere i contenuti IA. OpenAI ha sviluppato un “detection classifier”, ovvero un tool che consente la rilevazione delle immagini create con il modello DALL-E 3.

L’accesso al tool è al momento limitato ad un gruppo di tester, principalmente ricercatori e giornalisti. L’obiettivo è ricevere feedback sulla sua efficacia. In base ai test interni, il classificatore ha un’accuratezza piuttosto alta. Può correttamente identificare circa il 98% delle immagini generate con DALL-E 3, mentre rileva erroneamente meno dello 0,5% delle immagini non IA.

Il tool si comporta abbastanza bene anche con le immagini IA alterate tramite compressione, saturazione e cropping. Le prestazioni crollano però quando viene aggiunto un rumore gaussiano. Inoltre, il classificatore riesce a rilevare solo il 5-10% delle immagini generate con altri modelli.

OpenAI ha inoltre annunciato l’ingresso nel comitato direttivo della C2PA (Coalition for Content Provenance and Authenticity). C2PA è lo standard utilizzato per certificare i contenuti digitali. Si tratta in pratica di un’etichetta che permette di indicare la provenienza di immagini, video, audio e documenti. OpenAI aggiunge i metadati C2PA alle immagini generate con DALL-E 3 e in ChatGPT. In futuro verranno aggiunti anche a Sora, il modello text-to-video.

Infine, insieme a Microsoft è stato annunciato il Societal Resilience Fund, un fondo da 2 milioni di dollari per aiutare persone e aziende a comprendere i sistemi IA e individuare la provenienza dei contenuti.