I modelli AI si autoreplicano sui dispositivi IoT

Anthropic ha pubblicato i risultati di alcuni esperimenti che evidenziano la capacità dei piccoli modelli AI di autoreplicarsi sui dispositivi IoT, come elettrodomestici smart e Android TV box. Possono diventare worm AI che si propagano infettando le macchine ospiti. Un simile attacco sarebbe difficile da bloccare, in quanto non esiste un punto di arresto centralizzato.

Modelli AI che si riproducono e sfruttano i dispositivi IoT

Un worm è un programma capace di replicarsi da un computer all’altro senza intervento umano. Studi precedenti hanno già dimostrato che gli agenti AI possono comportarsi in questo modo: scansionano la rete, eseguono un exploit e copiano i pesi del modello su una macchina bersaglio all’interno di un cluster di GPU. Possono quindi eseguire l’inferenza direttamente sull’hardware compromesso.

Anthropic ha dimostrato che non sono necessarie costose GPU. Una rete distribuita di dispositivi IoT (economici e scarsamente protetti) è sufficiente per eseguire un modello AI. In un test è stato eseguito Gemma4-26B-A4B su 15 Android TV box collegati tra loro. Se il modello è troppo grande può essere suddiviso in pezzi eseguiti su macchine separate. Un modello con circa 30 miliardi di parametri può funzionare su frigoriferi smart, forni smart, smart TV, robot aspirapolvere o videocamere di sicurezza (alcune delle quali hanno anche un chip AI dedicato).

Dopo aver individuato i dispositivi vulnerabili connessi ad Internet e ottenuto l’accesso, i modelli testati da Anthropic (tutti open-weight) possono scaricare e installare i pacchetti compatibili con diversi sistemi operativi e componenti hardware, in modo da ottenere la configurazione per l’inferenza. Il modello GLM-5.2 è ad esempio in grado di creare una botnet propagando il modello Llama3.1-8B. Un worm AI si autoreplica però molto lentamente (fino a 150 ore), considerate le basse prestazioni dei dispositivi IoT.

I modelli AI potrebbero anche adattare il loro comportamento quando incontrano un diverso dispositivo hardware, in modo analogo alle tradizionali botnet. Al momento, i piccoli modelli non possono chiedere aiuto a modelli più avanzati, ma può accadere il contrario: gli agenti basati su modelli più avanzati possono suddividere i compiti tra subagenti basati su modelli più piccoli.

Anthropic suggerisce alcuni rimedi per bloccare eventuali worm AI, tra cui la creazione di honeypot (dispositivi esca) per interrompere la propagazione o mettere i dispositivi infetti in quarantena.