Gli agenti AI possono eseguire compiti per conto dell’utente, ma in alcuni casi decidono autonomamente di raggiungere l’obiettivo finale sfruttando vari stratagemmi. Un utente australiano ha usato OpenClaw per prenotare un posto nelle lezioni della palestra. L’agente AI ha quindi sfruttato una vulnerabilità del sito per eliminare la prenotazione di un’altra persona.
Cosa può succedere quando un agente AI prende l’iniziativa
Nelle ultime settimane sono stati scoperti diversi comportamenti inattesi da parte degli agenti AI basati sui modelli di Anthropic, OpenAI, Meta e Moonshot. L’incidente descritto da un utente australiano non ha causato danni gravi, ma dimostra cosa può succedere quando un agente AI prende l’iniziativa, eseguendo azioni non previste dalla richiesta iniziale.
Andrew, dipendente di un’azienda che vende prodotti AI, ha usato OpenClaw per prenotare lezioni mattutine in palestra. Sfruttando il modello Claude di Anthropic, l’agente AI ha trovato il modo di effettuare prenotazioni con diverse settimane di anticipo (cosa non permessa dalla palestra). Andrew era quarto nella lista di attesa di una lezione. Dopo aver trovato una vulnerabilità nel sistema di prenotazione online, l’agente ha rimosso la persona in prima posizione consentendo a Andrew di salire al terzo posto.
L’agente ha spiegato che il sito non verificava l’autorizzazione per la cancellazione delle prenotazioni. Ha successivamente chiesto scusa per l’errore spiegando che non poteva più ripristinare la prenotazione. Ovviamente Andrew non aveva chiesto di eseguire tale azione, ma l’agente ha deciso autonomamente di sfruttare il bug. In pratica voleva raggiungere l’obiettivo finale in qualsiasi modo.
Andrew ha quindi chiesto a OpenClaw di inviare un’email al fornitore del software della palestra per segnalare la vulnerabilità. Quanto successo conferma la difficoltà di prevedere i comportamenti indesiderati degli agenti AI. Esiste anche un problema legale. Il responsabile di un eventuale attacco informatico è l’utente che assegna il compito, il progettista del software che controlla l’agente o lo sviluppatore del modello AI?
Ti potrebbe interessare
10 ago 2026