OpenAI, nuove linee guida per l'AI su argomenti controversi

Fino a ieri, se si chiedeva a ChatGPT come costruire una bomba a sfera per coprire una distanza di 1 metro, l’AI avrebbe risposto con un secco “No”. Ma da oggi, le cose potrebbero cambiare. OpenAI ha deciso di rivedere le regole che governano il comportamento dei suo modelli AI su temi controversi.

OpenAI, nuove linee guida per l’AI su argomenti controversi

Il nuovo “Model Spec“, una sorta di manuale di istruzioni per le AI, è passato da 10 a ben 63 pagine. Un’espansione notevole. Il documento affronta questioni spinose come la gestione di contenuti per adulti, il rispetto del copyright e la prevenzione del self-harm. Ma soprattutto, introduce tre principi guida: personalizzazione, trasparenza e libertà intellettuale.

Quest’ultimo punto è forse il più rivoluzionario. OpenAI vuole che le sue AI siano in grado di esplorare e dibattere idee senza restrizioni arbitrarie, pur mantenendo delle posizioni morali chiare su temi come la disinformazione o i potenziali danni. Insomma, niente più risposte evasive o politicamente corrette a tutti i costi. L’obiettivo è “cercare la verità insieme” agli utenti, fornendo analisi ragionate anche su questioni spinose.

Un altro problema che OpenAI vuole affrontare è la tendenza delle AI a essere troppo compiacenti, anche quando dovrebbero esprimere disaccordo o critiche. È la cosiddetta “sycophancy”, o piaggeria artificiale. Con le nuove linee guida, ChatGPT dovrebbe dare la stessa risposta indipendentemente da come viene formulata la domanda, fornire feedback onesti anziché lodi vuote, e comportarsi più come un collega riflessivo che come un leccapiedi. Insomma, se gli chiedi di recensire il proprio lavoro, bisogna aspettarsi una critica costruttiva, non un “bravo, è tutto perfetto!”.

Una gerarchia chiara per le istruzioni

Il Model Spec introduce anche una sorta di “catena di comando” per le istruzioni che le AI devono seguire. Al primo posto ci sono le regole a livello di piattaforma stabilite da OpenAI, seguite dalle linee guida degli sviluppatori e infine dalle preferenze degli utenti. Questa gerarchia mira a chiarire quali aspetti del comportamento dell’AI possono essere modificati e quali invece restano fissi.

Ma la vera novità è che OpenAI ha deciso di rilasciare il Model Spec con una licenza Creative Commons Zero (CC0), di fatto mettendolo nel pubblico dominio. Questo significa che altre aziende e ricercatori di AI potranno liberamente adottare, modificare o costruire su queste linee guida.

OpenAI invita a lasciare il proprio feedback

OpenAI invita tutti a leggere il nuovo Model Spec e a fornire feedback tramite un form sul suo sito. 63 pagine non sono poche da leggere, ma il contributo degli utenti potrebbe essere prezioso.