L'AI influenzerà le nostre scelte, l'allarme degli scienziati

“Gli LLM determineranno qual è la vostra intenzione, qual è il vostro desiderio, cosa state cercando di fare, dato il contesto, e vi presenteranno le informazioni nel miglior modo possibile”. Questa dichiarazione di Jensen Huang, CEO di Nvidia, la dice lunga su ciò che i giganti tecnologici si aspettano da questa tecnologia. L’economia di Internet potrebbe trasformarsi radicalmente, e le nostre democrazie rischiano di pagarne il prezzo. Ecco uno studio condotto dagli scienziati dell’Università di Cambridge.

Le nostre scelte in mano all’AI? L’avvertimento degli esperti di Cambridge

Per riassumere la tesi degli autori, occorre definire l’economia dell’attenzione che governa Internet ormai da molti anni. In concreto, i giganti del web, e in particolare i social network, fanno di tutto per trattenere l’utente sulle loro piattaforme il più a lungo possibile per catturare la sua attenzione. Lo scopo è conoscere le nostre abitudini e indurci a visualizzare annunci pubblicitari basati sui nostri interessi. È piuttosto elementare, ma permette loro di recuperare somme astronomiche ogni anno.

L’economia delle intenzioni si basa su nuovi modelli di intelligenza artificiale che comprendono e prevedono le nostre intenzioni e potrebbero vendere queste informazioni ad aziende che a loro volta ne trarrebbero profitto.

Jonnie Penn, uno degli autori, sottolinea che: “Se non viene regolamentata, l’economia delle intenzioni tratterà le vostre motivazioni come la nuova moneta. Sarà una corsa all’oro per chi punta, dirige e vende le intenzioni umane”. E aggiunge: “Dovremmo iniziare a pensare al probabile impatto che un simile mercato avrebbe sulle aspirazioni umane, tra cui elezioni libere ed eque, una stampa libera e una concorrenza leale sul mercato, prima di diventare vittime delle sue conseguenze indesiderate”.

Un futuro piuttosto spaventoso

Nel loro studio, i ricercatori osservano che modelli linguistici come ChatGPT potrebbero essere utilizzati per “anticipare e guidare” gli utenti sulla base di “dati intenzionali, comportamentali e psicologici”. Un esempio ipotizzato riguarda un’AI che, in tempo reale, cerca di catturare l’attenzione di un utente suggerendo attività personalizzate. Per esempio, il chatbot potrebbe proporre: “Hai detto di sentirti oberato di lavoro, vuoi che prenoti quel biglietto del cinema di cui avevamo parlato?”.

Gli autori dello studio hanno ipotizzato anche un futuro in cui le grandi aziende tecnologiche, come Meta, potrebbero monetizzare le intenzioni degli utenti. Come? Vendendo agli inserzionisti informazioni dettagliate sulle intenzioni espresse dagli utenti, come il desiderio di prenotare un ristorante, un volo o un hotel.