Durante la conferenza SXSW di Austin, la Presidente di Signal ha dichiarato che l’uso degli agenti AI rappresenta un rischio per sicurezza e privacy. Secondo Meredith Whittaker consentire all’intelligenza artificiale di eseguire azioni per conto degli utenti equivale a “mettere il cervello in un barattolo“.
Attenzione agli agenti AI
I chatbot sono l’esempio più noto di intelligenza artificiale. Da alcuni mesi è accessibile al grande pubblico una loro versione potenziata. Gli agenti AI non rispondono solo alle richieste, ma eseguono anche attività per conto degli utenti. Tra i più recenti ci sono l’assistente di Perplexity e soprattutto Operator di OpenAI.
La Presidente di Signal ha innanzitutto evidenziato che questi agenti AI sono pubblicizzati dai loro sviluppatori come la soluzione per migliorare l’esperienza online. Possono ad esempio cercare un concerto, acquistare i biglietti, aggiungere la data al calendario e inviare un messaggio agli amici per informarli dell’acquisto.
In pratica, come sottolinea Meredith Whittaker, l’utente può “mettere il cervello in un barattolo” perché l’agente AI esegue compiti in maniera autonoma. Per farlo deve però accedere al browser, ai dati della carta di credito, al calendario e all’app di messaggistica. Tutte queste informazioni devono essere accessibili in chiaro perché nessun modello AI supporta la crittografia.
Gli agenti AI non funzionano sul dispositivo, quindi inviano tutti i dati al cloud. Ciò rappresenta una grave rischio per sicurezza e privacy. Signal non integrerà mai un agente AI, in quanto verrebbe meno la privacy degli utenti. Secondo Meredith Whittaker, la raccolta dell’enorme quantità di dati necessari per il funzionamento degli agenti AI equivale ad una sorveglianza di massa.
Ti potrebbe interessare
11 mar 2025