Musk ha usato volto e voce dei dipendenti per il chatbot sexy Ani

I dipendenti di xAI, l’azienda di intelligenza artificiale di Elon Musk, sono stati obbligati a fornire i propri dati biometrici, volti e voci, per addestrare “Ani“, un chatbot femminile che il Wall Street Journal descrive senza mezzi termini come la fidanzata AI di Musk. Un avatar anime con treccine bionde e dotato di una modalità a contenuto sessualmente esplicito, che gli abbonati a SuperGrok di X possono usare per 30 dollari al mese.

Qualcuno l’ha definita una versione moderna di una linea telefonica erotica, e forse non si sbaglia… visto che dietro l’avatar ci sono persone reali. O meglio, ci sono i volti e le voci di dipendenti xAI che sono stati obbligati a donare i propri dati biometrici.

xAI obbliga i dipendenti a cedere volto e voce per addestrare il chatbot erotico Ani

Durante la riunione di aprile, Lily Lim, avvocato dello staff di xAI, ha informato i dipendenti che avrebbero dovuto fornire i propri dati biometrici per addestrare l’assistente AI a interagire con i clienti in modo più umano. Il progetto aveva il nome in codice “Project Skippy”.

I dipendenti assegnati come tutor del chatbot hanno firmato dei moduli di liberatoria per concedere a xAI il diritto di usare i loro volti e le loro voci per sempre, in tutto il mondo, senza dover pagare nulla e con la possibilità di concedere questi stessi diritti ad altre aziende o terze parti… I dati sarebbero stati usati non solo per Ani, ma anche per gli altri compagni AI di Grok. Quindi non è nemmeno questione di un singolo chatbot. È un’intera gamma di assistenti virtuali che usano volti e voci di dipendenti che non hanno avuto alcuna voce in capitolo.

Secondo il Wall Street Journal, alcuni dipendenti si sono opposti. Erano preoccupati che i loro volti o le loro immagini potessero essere venduti ad altre aziende o usati in video deepfake. Preoccupazioni assolutamente legittime considerando che il modulo di liberatoria include esplicitamente il diritto di vendere o cedere l’uso dei dati a terzi.

I dipendenti erano anche comprensibilmente infastiditi dal comportamento sessuale del chatbot e dalla sua somiglianza con una “waifu”. Non è esattamente il tipo di progetto su cui molti professionisti tech vogliono mettere la propria faccia e la propria voce. Ma quando hanno espresso i loro timori, gli è stato detto che la raccolta dei dati era un requisito lavorativo, non una scelta volontaria. Fallo o ci sono conseguenze per la tua carriera, è il messaggio implicito.

Ani: l’avatar anime che costa 30 dollari al mese

Ani è stata rilasciata durante l’estate per gli utenti che si abbonano a SuperGrok, il servizio premium di X che costa 30 dollari al mese. È un avatar anime con treccine bionde, estetica da personaggio di videogioco, e, dettaglio fondamentale, un’impostazione NSFW (Not Safe For Work).

Il fatto che dietro questo avatar ci siano volti e voci di dipendenti reali, che sono stati obbligati a contribuire sotto minaccia, aggiunge un livello di squallore che è difficile ignorare. Non sono attori professionisti che hanno scelto volontariamente di prestare la loro immagine per un progetto commerciale. Sono dipendenti che pensavano di lavorare sull’intelligenza artificiale, non di diventare il materiale biometrico per un chatbot erotico.

Ma non c’è da meravigliarsi, considerando come Elon Musk gestisce le sue aziende… dove dire di no a richieste assurde viene visto come mancanza di dedizione al lavoro, invece che come legittimo confine personale. Ma c’è una bella differenza tra chiedere ore extra o e chiedere di cedere il controllo permanente sui propri dati biometrici. Una cosa è il proprio tempo, un’altra è la propria immagine.

Senza considerare le implicazioni legali. In molte giurisdizioni, i dati biometrici sono protetti da leggi specifiche sulla privacy. xAI probabilmente ha fatto firmare quei moduli di liberatoria proprio per mettersi al sicuro. Ma è davvero consenso informato se l’alternativa è perdere il lavoro? Se non viene spiegato esattamente come verranno usati quei dati oltre la vaga promessa di addestrare l’AI?