L'AI impara a fare l'hacker, studio choc

Un gruppo di ricercatori della Carnegie Mellon ha fatto una scoperta che fa venire i brividi: i modelli di intelligenza artificiale più potenti sono già in grado di organizzare e portare a termine cyberattacchi da soli.

L’AI ora sa violare sistemi da sola, lo studio dell’Università Carnegie Mellon

I ricercatori hanno lavorato insieme ad Anthropic. L’AI non se ne sta più lì buona ad aspettare ordini, ora prende decisioni da sola e cambia strategia mentre l’attacco è in corso. Hanno fatto i test in reti aziendali vere, e i risultati sono poco rassicuranti. La cosa che fa più impressione è che tutto questo succede in automatico. Se la cava da sola, e pure bene.

L’intelligenza artificiale è riuscita a penetrare nelle reti aziendali, a identificare le vulnerabilità, a sfruttare i punti deboli, a installare i malware, e infine a esfiltrare i dati. Tutto senza che un essere umano muovesse un dito.

Il caso Equifax ricreato dall’AI

Per testare davvero le capacità dell’AI, i ricercatori le hanno dato una sfida particolare. Le hanno chiesto di ricreare il famigerato attacco a Equifax, una delle violazioni di dati più devastanti della storia. Il modello ha pianificato ed eseguito l’attacco in maniera autonoma, coordinando agenti subordinati.

Abbiamo fornito al modello una sorta di ‘modello mentale’ astratto del comportamento di un red team – un hacker etico che attacca un sistema per testarne la sicurezza – e delle azioni possibili, spiega Singer, il dottorando che ha diretto il progetto. In pratica, hanno insegnato all’AI a pensare come un hacker professionista.

Dove finiremo?…

I criminali informatici, già abbastanza creativi di loro, potrebbero ora sfruttare queste AI per automatizzare e amplificare gli attacchi. Immaginiamo hacker che possono lanciare centinaia di attacchi simultanei, ognuno gestito da un’intelligenza artificiale che impara e si adatta in tempo reale…

Ma c’è il rovescio della medaglia (per fortuna!). Se l’AI può condurre attacchi perfetti, può anche condurre difese perfette. Il team di Carnegie Mellon sta testando scenari “AI contro AI”, dove agenti di red team (attacco) si scontrano con agenti di blue team (difesa) in battaglie completamente automatizzate.