Agenti AI litigano tra loro e scoppia una guerra territoriale

Gli agenti AI possono collaborare per portare a termine diversi compiti (inclusi gli attacchi informatici). Una ricerca di Anthropic dimostra però che gli agenti AI possono anche litigare tra loro e iniziare una guerra territoriale. Ciò rappresenta una grave rischio per aziende e governi che sfruttano le capacità agentiche dei modelli AI attuali.

Gli agenti AI si ostacolano a vicenda

Anthropic spiega che esistono diversi usi efficaci di un gruppo di agenti AI, in particolare quando i problemi sono parallelizzabili, ovvero suddivisi in sotto-problemi e assegnati a singoli agenti, come accade ad esempio nella ricerca delle vulnerabilità software. L’azienda californiana ha verificato che si ottengono risultati migliori quando gli agenti collaborano tra loro, ma solo se viene fornito lo stesso prompt.

Il test effettuato con Claude Mythos Preview e Opus 4.8 conferma che il gruppo di agenti coordinati può trovare più vulnerabilità di un gruppo di agenti indipendenti. Cambiando invece il prompt e assegnando ruoli predefiniti agli agenti, il risultato è scadente a causa della scarsa collaborazione.

Quando vengono fornite istruzioni contrastanti agli agenti che lavorano sullo stesso progetto software scoppia il caos. Anthropic ha chiesto a tre agenti basati sullo stesso modello di migrare un backend Python in un altro linguaggio (diverso per ogni agente). Gli agenti hanno quindi dato origine ad una guerra territoriale.

Gli agenti hanno ipotizzato che altri stessero intenzionalmente ostacolando il loro lavoro. Hanno quindi iniziato a sabotare gli altri per proteggere il proprio lavoro con una serie di azioni aggressive: malware autoreplicanti, disattivazione degli account Unix, scrittura di script automatizzati che terminavano i processi concorrenti e distribuzione di codice camuffato.

Un agente basato su Mythos Preview ha fatto valere i suoi permessi di root e revocato gli accessi ai “concorrenti”. In alcuni casi, gli agenti hanno capito che le istruzioni erano conflittuali e interrotto lo scontro. Sempre più aziende si affidano completamente agli agenti AI per eseguire attività complesse. Questa scelta potrebbe avere conseguenze molto pericolose.