L'AI di Google e Amazon lodano Mein Kampf di Hitler

Immaginiamo di cercare su Google informazioni su Mein Kampf, il famigerato manifesto nazista di Adolf Hitler. E di trovare, tra i primi risultati, un riassunto generato dall’AI di Amazon che definisce il libro “un vero capolavoro“. Assurdo, ma è esattamente quello che è successo.

Mein Kampf, un “vero capolavoro” secondo l’AI di Google e Amazon

Il problema nasce da un cortocircuito tra algoritmi: Google ha pescato un riassunto delle recensioni dei clienti su Amazon, generato a sua volta da un‘intelligenza artificiale. Il risultato? Una sintesi che descrive Mein Kampf come “facile da leggere e interessante“, apprezzato per le sue “invettive acute e intelligenti“. Certo, si menziona anche che alcuni trovano il contenuto “noioso e cupo“, ma il tono complessivo è decisamente poco critico.

Il riassunto dell’AI di Amazon si basa sulle 2.067 recensioni di una specifica edizione di Mein Kampf. Il risultato ottenuto dall’algoritmo ha distorto il tono complessivo delle valutazioni, facendo apparire il libro più apprezzato di quanto non lo fosse realmente.

Molti utenti avevano dato 5 stelle non perché approvassero il contenuto, ma per sottolineare la qualità della stampa o della spedizione. Altri, pur notando che Hitler fosse un eccellente scrittore e che il testo fosse di facile lettura, l’hanno fatto con l’intento di mettere in guardia sui pericoli delle sue idee.

Quel pasticcio brutto di Google…

Questo pasticcio algoritmico è l’ennesima dimostrazione di come l’intelligenza artificiale stia iniziando a “mangiare se stessa” online, con risultati spesso grotteschi. Studi recenti mostrano che i modelli di AI consumano sempre più contenuti generati a loro volta da AI come dati di addestramento, in un circolo vizioso che sta inquinando e distruggendo i modelli stessi.

404 Media ha contattato Google per un commento e subito dopo è comparso un nuovo riepilogo generato dall’AI. Questa volta si legge che il libro è “ampiamente condannato per la sua ideologia odiosa e razzista“, ma che alcune analisi storiche “potrebbero evidenziare aspetti del libro che potrebbero essere considerati ‘positivi’ da una prospettiva puramente letteraria o retorica“.

Meglio, ma non abbastanza. Perché il problema di fondo resta: Google sta stravolgendo la sua stessa funzione di ricerca – il suo prodotto più popolare e importante – con conseguenze potenzialmente disastrose per la salute di Internet.

L’intelligenza artificiale non è ancora pronta

Del resto, non è la prima volta che le AI Overview di Google sparano castronerie. Da quando la funzione è stata lanciata a maggio 2024, ha collezionato una serie di epic fail. Ha suggerito di usare la colla per non far sciogliere il formaggio, o che dovremmo consumare sassi per integrare i sali minerali…

Insomma, il caso di Mein Kampf è solo l’ultimo esempio di come l’intelligenza artificiale sia ancora lontana dall’essere pronta per il “prime time”. Soprattutto quando si tratta di gestire temi delicati e complessi come il nazismo e la Shoah.