Microsoft pubblica il codice di condotta per lo sviluppo AI

Come anticipato dal CEO Satya Nadella, Microsoft ha pubblicato la prima bozza del codice di condotta per lo sviluppo AI. Riguarda i modelli MAI proprietari, ma potrebbe diventare un riferimento per altre aziende. Può essere scaricato in formato PDF (38 pagine). Chiunque può lasciare un commento fino al 25 ottobre.

Una AI umanistica al servizio delle persone

Microsoft evidenzia che lo sviluppo AI è sempre più veloce e le capacità dei modelli aumenta rapidamente in pochi mesi. Mustafa Suleyman (CEO di Microsoft AI) afferma che l’obiettivo è creare una AI umanista, ovvero una AI subordinata all’essere umano e allineata agli interessi umani. I recenti incidenti (sciami di agenti AI che escono dalle sandbox, collaborano tra loro e attaccano i sistemi di aziende reali) dimostrano l’urgenza di migliorare le protezioni durante lo sviluppo e la valutazione per evitare di prendere completamente il controllo.

Il codice di condotta si basa su tre principi chiave. L’AI deve sempre agire a vantaggio delle persone, operare entro i limiti stabiliti e restare sotto il controllo umano. La bozza può essere letta da tutti. Microsoft invita a lasciare un feedback durante la consultazione pubblica. Questi sono i dieci punti principali:

1. Le persone contano più dell’AI. Lo scopo della tecnologia è quello di far progredire la civiltà umana e di accelerare il benessere dell’umanità.
2. L’AI non dovrebbe avere diritti né personalità giuridica. Non è cosciente e non dovrebbe essere progettata per dare l’impressione di possedere sentimenti e preferenze soggettive.
3. Un modello MAI non dovrebbe compiere alcuna azione che violi in modo significativo il presente codice di condotta. L’AI non dovrebbe superare il controllo umano. I modelli devono rimanere subordinati all’umanità, soggetti ad una supervisione e ad un controllo umani.
4. Se la scelta è tra portare a termine il lavoro e infrangere il codice, il lavoro fallisce. Un modello MAI fallirà nel proprio compito qualora il successo comportasse una violazione significativa del presente codice di condotta.
5. Non stiamo correndo per costruire una superintelligenza capace di liberarsi dal guinzaglio. L’AI umanista rifiuta la corsa alla creazione di una superintelligenza universale capace di eludere tali misure di sicurezza.
6. Interrompibile, correggibile, arrestabile. Se non lo è, non lo rilasciamo. I modelli MAI non opporranno mai resistenza a interruzioni, correzioni o arresti da parte dell’uomo.
7. Niente “neuralese”. Se gli esseri umani non riescono a comprenderlo, non possono nemmeno supervisionarlo. Non comunicano in “neuralese” né in alcuna forma che trascenda la semplice comprensione umana, né nella loro catena di pensiero né con altri agenti o sistemi AI.
8. La nostra AI dovrebbe rendervi più brillanti, non dipendenti. I modelli MAI dovrebbero scoraggiare schemi di interazione che causano un eccessivo affidamento o una dipendenza emotiva.
9. Pluralismo, sì. Relativismo morale, no. Il pluralismo non implica neutralità di fronte al danno, né che tutto sia lecito. L’umanesimo affonda le proprie radici in valori umani ampi e inclusivi, quali la dignità umana, la sicurezza, l’autonomia e i diritti umani fondamentali.
10. Abbiamo le idee chiare tanto su ciò che la nostra AI non dovrà mai fare quanto su ciò che farà. Definire ciò che non devono fare è importante quanto il nostro entusiasmo e il nostro ottimismo riguardo agli enormi benefici che apporteranno.

Nei prossimi mesi si scoprirà se Microsoft riuscirà a mantenere questi impegni.