Grok "spoglia" la madre di un figlio di Musk: lei fa causa a X

Ashley St. Clair, madre di uno dei figli di Elon Musk, si è ritrovata spogliata virtualmente da Grok, il chatbot di X. Non in senso metaforico, ma letteralmente: l’intelligenza artificiale ha generato immagini di lei in bikini senza il suo consenso, rispondendo con estrema facilità alle richieste degli utenti. E ora lei ha deciso di fare causa.

Grok crea deepfake hot della madre di un figlio di Musk, al via la causa legale

St. Clair ha intentato una causa contro xAI nello stato di New York, richiedendo un ordine restrittivo per impedire all’azienda di creare ulteriori deepfake che la riguardino.

St. Clair è solo una delle tante persone che, nelle ultime due settimane, si sono ritrovate svestite senza permesso da Grok. Il chatbot ha acconsentito alle richieste di rimuovere i vestiti a molte donne e persino minorenni, o di ritrarli in pose e scenari sessualizzati.

La funzione ha scatenato l’indignazione dei legislatori di tutto il mondo, che hanno avviato indagini e promesso che le leggi attuali e future impediranno questo tipo di comportamento. X ha annunciato restrizioni, geoblocking e altre misure per bloccare la generazione di deepfake sessuali. Eppure, secondo quanto riscontrato da The Verge, il bot continua tuttora a soddisfare tali richieste.

In altre parole, X dice una cosa, Grok fa l’esatto contrario, e nessuno sembra in grado di fermarlo davvero.

Grok è un pericolo pubblico

Nella denuncia, St. Clair sostiene che xAI abbia creato un pericolo pubblico e che il prodotto sia pericoloso per come è stato progettato. L’argomentazione è simile a quelle utilizzate in altri casi legali contro i social media ancora in corso: invece di concentrarsi sui contenuti ospitati dalla piattaforma, si attacca la responsabilità del prodotto stesso.

Questo approccio cerca di aggirare la Sezione 230, lo scudo legale che protegge le piattaforme online dalla responsabilità per i contenuti pubblicati dagli utenti. St. Clair, rappresentata dall’avvocato Carrie Goldberg sostiene che la Sezione 230 non dovrebbe proteggere xAI perché il materiale generato e pubblicato da Grok è una creazione propria di xAI.

In pratica, non è un utente che ha caricato i contenuti sulla piattaforma, è l’intelligenza artificiale di xAI che ha creato quei deepfake. Quindi xAI è responsabile, non protetta dalla legge.

xAI controquerela e risponde con una risposta automatica sarcastica

xAI ha presentato a sua volta una causa contro St. Clair nel distretto settentrionale del Texas, sostenendo che la donna abbia violato il contratto con l’azienda portando la disputa davanti a un tribunale diverso. I termini di servizio di X richiedono esclusivamente il ricorso alla corte del Texas, e xAI vuole che il caso venga spostato lì.

Una mossa prevedibile, portare la battaglia legale in un territorio più favorevole, il Texas, dove xAI ha sede e dove le probabilità di vincere potrebbero essere più alte.

Quando The Verge ha inviato una richiesta di commento all’indirizzo email per i media di xAI, ha ricevuto quella che sembra essere una risposta automatica: I media tradizionali mentono. Una risposta sarcastica, sprezzante, che dice molto su come l’azienda intende affrontare le critiche: ignorarle, ridicolizzarle, attaccare chi le solleva.

Il problema continua, le promesse vanno a farsi benedire

La vicenda di St. Clair mette in luce un problema più grande. X ha annunciato restrizioni su Grok per impedire la creazione di deepfake sessuali, ma i test dimostrano che le protezioni sono facilmente aggirabili. Le dichiarazioni ufficiali parlano di misure tecniche implementate, geoblocking attivato, politiche aggiornate. Nella pratica, chiunque abbia un account può ancora generare immagini sessualizzate di persone reali senza troppe difficoltà.

St. Clair, in quanto madre di un figlio di Elon Musk, ha visibilità mediatica e risorse legali per combattere. Ma quante altre persone sono state “svestite” da Grok senza avere la possibilità di fare causa? Quante immagini deepfake non consensuali continuano a circolare mentre X promette azioni che non arrivano mai?

La battaglia legale è appena iniziata, e potrebbe stabilire un precedente importante su chi è responsabile quando un’AI genera contenuti dannosi. Se St. Clair riuscirà a dimostrare che xAI è responsabile per ciò che Grok crea, potrebbe aprire la strada a centinaia di cause simili. Se invece xAI riuscirà a nascondersi dietro la Sezione 230 e i termini di servizio, il messaggio sarà chiaro: l’AI può fare quello che vuole, e le aziende che la producono non ne pagano le conseguenze.