Perché non possiamo offendere l'intelligenza artificiale?

Potrebbe essere passata sottotraccia la nuova policy di Anthropic che impedisce di offendere Claude. Un aggiornamento alle regole del servizio recita: Abbiamo introdotto il divieto di comportamenti offensivi o crudeli, prolungati e ingiustificati, nei confronti dei nostri modelli. Chi vuole continuare a utilizzare il servizio è chiamato ad adeguarsi, è una regola da accettare. La domanda che nessuno si sta ponendo è però un’altra: a che pro?

L’educazione ai tempi dell’AI

La società non lo chiarisce. Si limita ad affermare che il divieto si applica solo ai casi estremi, nei quali gli utenti si comportano ripetutamente in modo crudele nei confronti dei nostri modelli, senza alcuno scopo evidente. E qui introduce un elemento che mostra il fianco all’interpretazione. Quando un comportamento esibito nei confronti dell’intelligenza artificiale è da considerare crudele? Qual è uno scopo evidente? Bisogna adottare lo stesso criterio di valutazione che si impiegherebbe con un essere umano?

L’aggiornamento alla policy prosegue sottolineando che non si applica alle forme comuni di frustrazione dell’utente, alle resistenze, ai temi creativi cupi o alle attività di test e ricerca sui modelli. Di nuovo, quando una frustrazione è da ritenere legittima a tal punto da far deragliare lo scambio, arrivando a giustificare l’offesa?

Torna inevitabilmente alla memoria quanto scritto, solo poche settimane fa, da Microsoft nel suo codice di condotta sull’AI. Uno dei dieci punti fa riferimento proprio alla chiave di lettura attraverso cui approcciare le interazioni con modelli e algoritmi. A differenza di quanto si fa con Claude, in questo caso la volontà è proprio quella di non umanizzare l’automatismo.

L’AI non dovrebbe avere diritti né personalità giuridica. Non è cosciente e non dovrebbe essere progettata per dare l’impressione di possedere sentimenti e preferenze soggettive.

Anthropic lo fa per ridurre le interazioni non necessarie con il chatbot? Dovrebbe allora proibire anche i prompt di ringraziamento, considerando che bruciano risorse allo stesso modo. Rimane la giustificazione del voler disincentivare i comportamenti irrispettosi, ma a quel punto si porrebbe un’altra questione, quella di quanto sia ragionevole e sensato delegare un compito educativo o correttivo all’intelligenza artificiale.