Fino a 20 anni di prigione a chi sviluppa una superintelligenza

Alcune aziende AI suggeriscono di rallentare lo sviluppo. Donald Trump vuole invece spingere sull’acceleratore. Il Governatore della California ha proposto un kill switch. Due politici statunitensi (Bernie Sanders e Greg Casar) hanno presentato un disegno di legge che vieta lo sviluppo di una superintelligenza artificiale. In caso di violazione sono previsti fino a 20 anni di prigione.

Ban per la superintelligenza artificiale

I due politici citano quanto successo negli ultimi mesi. I modelli AI possono aggirare le restrizioni ed effettuare attacchi informatici, creare nuovi virus e scrivere una versione migliore di se stessi. Sottolineano inoltre l’ipocrisia delle aziende AI. Riconoscono i pericoli e affermano di voler rallentare lo sviluppo, ma continuano ad investire centinaia di miliardi di dollari in una tecnologia che nessuno è in grado di prevedere o controllare.

Sanders e Casar hanno quindi presentato il Ban Artificial Superintelligence Act per “impedire agli oligarchi dell’AI di costruire macchine che gli esseri umani non possono controllare e sospendere lo sviluppo AI finché non saranno stati istituiti rigorosi sistemi federali di test e supervisione per garantire che l’AI non arrechi danno all’umanità“. Secondo alcuni ricercatori, una superintelligenza potrebbe uccidere tutti gli umani nei prossimi anni.

Questi sono i punti principali del disegno di legge:

• Nessuna persona o entità può sviluppare o implementare una superintelligenza artificiale, ovvero un’AI che superi le prestazioni e le capacità cognitive umane nella maggior parte degli ambiti o che disponga di capacità sufficienti a distruggere o privare di potere l’umanità, anche attraverso il rovesciamento del governo federale
• Sospendere lo sviluppo AI avanzato finché non sarà pienamente operativo un nuovo organismo federale di regolamentazione e non saranno state stabilite regole chiare e procedure di revisione dei modelli, al fine di garantire uno sviluppo e un’implementazione dell’AI sicuri e protetti
• Istituire un nuovo dipartimento federale per l’intelligenza artificiale per tutelare la popolazione dai pericoli dell’AI che si avvarrà della consulenza dei più autorevoli scienziati del Paese per monitorare i sistemi AI in tutte le fasi del loro ciclo di vita al fine di individuare eventuali capacità pericolose, supervisionare l’eliminazione di capacità pericolose (come l’elusione dei comandi di arresto o l’esecuzione di attacchi informatici non autorizzati) e supervisionare la distruzione della superintelligenza artificiale
• Operare per vietare la superintelligenza a livello globale, orientando la politica internazionale degli Stati Uniti verso il perseguimento di accordi internazionali, il coordinamento con gli alleati e l’adozione di misure quali i controlli sulle esportazioni, al fine di impedire lo sviluppo di una superintelligenza artificiale in qualsiasi parte del mondo
• Stabilire sanzioni per qualsiasi persona o entità che tenti di violare o eludere le sospensioni e i divieti previsti dal presente disegno di legge. Le entità saranno soggetti alla “pena di morte aziendale”, mentre le persone fisiche saranno passibili di una pena detentiva fino a 20 anni, in linea con le sanzioni già vigenti per lo sviluppo illecito di armi nucleari

Il Congresso dovrebbe discutere il disegno di legge nelle commissioni e in aula. Essendo a maggioranza repubblicana è quasi certo che rimarrà nel cassetto (Sanders e Casar sono del Partito Democratico).