Letteratura piccante, non pornografia.
Così un portavoce di OpenAI ha descritto al Wall Street Journal quello che la tanto rinviata modalità adulti di ChatGPT offrirà al lancio: conversazioni testuali a tema erotico, senza immagini, voce o video generati. È una definizione che traccia un confine molto preciso, e che lascia intuire quanto sia accidentato il terreno.
OpenAI limita la modalità adulti di ChatGPT al testo, perché?
Limitarsi al testo ha vantaggi pratici e legali. La legislazione come l’Online Safety Act del Regno Unito richiede la verifica dell’età per le immagini pornografiche, ma non per i contenuti erotici scritti. Rimanere nel campo del testo consente a OpenAI di evitare, almeno per ora, alcune delle restrizioni più rigide previste per immagini e video.
Ma la ragione più profonda di questo ridimensionamento è legata soprattutto a una questione di sicurezza. Secondo il Wall Street Journal, OpenAI fatica ad allentare i limiti sui contenuti erotici senza rischiare che il modello generi anche materiale molto più problematico, come scenari non consensuali o che coinvolgono minori. Per un modello linguistico distinguere in modo affidabile tra erotica “accettabile” e pornografia dannosa è estremamente difficile, e l’azienda non ha ancora trovato la formula giusta.
Il nodo più grave riguarda i minori. Un consiglio di consulenti selezionato da OpenAI ha avvertito a gennaio che la modalità per adulti potrebbe essere accessibile ai bambini e favorire una dipendenza emotiva malsana dal chatbot. Un membro del consiglio, non identificato, ha detto che OpenAI rischiava di creare un “coach suicida sexy.”
Il problema degli algoritmi di predizione dell’età
I numeri rendono l’allarme concreto. Il sistema di stima dell’età sviluppato da OpenAI per impedire ai minori di accedere a contenuti erotici classifica per errore come adulti circa il 12% dei minori. Considerando che ChatGPT conta ogni settimana circa 100 milioni di utenti sotto i 18 anni, un margine di errore di questo tipo potrebbe tradursi in milioni di minorenni esposti a conversazioni sessualizzate con il chatbot.
Un portavoce di OpenAI ha dichiarato al Wall Street Journal che gli algoritmi di predizione dell’età non saranno mai completamente infallibili.
La scelta di OpenAI contrasta con l’approccio di Grok di xAI. Elon Musk ha annunciato la settimana scorsa che il generatore di immagini e video può produrre qualsiasi contenuto permesso in un film con classificazione R, incluse le “compagne piccanti” del chatbot. Una corsa al ribasso delle protezioni in cui OpenAI, paradossalmente, si ritrova nel ruolo del cauto.
Rinviato il lancio della Modalità per adulti
Il lancio della Modalità per adulti era prevista per questo trimestre, poi è stato rinviato a data da destinarsi. Dietro ci sono problemi che OpenAI non ha ancora risolto, come la moderazione difficile da applicare ai contenuti espliciti, e i minori che superano i filtri. il quadro che emerge non è quello di un prodotto in ritardo, ma di uno che non era pronto.
Ti potrebbe interessare
16 mar 2026