Copilot Actions: protezioni contro il prompt injection

Microsoft ha annunciato ieri sera la funzionalità Copilot Actions (in anteprima solo negli Stati Uniti) che permette ad Edge di eseguire azioni per conto dell’utente. L’azienda di Redmond ha descritto le protezioni implementate per bloccare gli attacchi di prompt injection, punto debole di tutti i browser agentici.

Navigazione agentica sicura

Copilot Actions è una funzionalità opt-in e sperimentale. L’accesso limitato inizialmente agli utenti statunitensi serve proprio per individuare eventuali problemi di sicurezza ed apportare i necessari miglioramenti. Il rischio maggiore è rappresentato da un attacco di prompt injection. Un cybercriminale potrebbe nascondere nelle pagine web istruzioni pericolose che Copilot eseguirà automaticamente senza l’intervento dell’utente.

L’approccio adottato da Microsoft prevede tre fasi. Con la prima viene considerato non sicuro ogni input proveniente da fonti sconosciute. Actions in Edge può quindi accedere solo ad un elenco di siti fidati (modalità bilanciata predefinita). Gli utenti possono aggiungere altri siti o scegliere la modalità restrittiva che richiede l’approvazione per ogni sito.

La protezione SmartScreen impedisce automaticamente l’accesso a siti sospetti e l’agente AI non può aggirare il blocco. I dati presenti in ogni sito sono analizzati ed eventualmente bloccati con Azure Prompt Shields. Copilot è stato inoltre addestrato per rilevare siti che incoraggiano violenza o comportamenti pericolosi.

Con la seconda fase vengono individuate “deviazioni” dalle attività previste. Actions in Edge può rilevare istruzioni nascoste e contesto sospetto. Viene quindi mostrata una notifica e l’utente deve autorizzare l’azione. Per tutte le azioni sensibili (accesso email o account bancari) viene sempre chiesto il permesso all’utente.

Infine, Microsoft ha limitato l’accesso a dati sensibili e l’esecuzione di azioni pericolose. Copilot Actions non può usare i moduli per inserire password, interagire con le pagine edge://, lanciare app esterne, scaricare file, accedere a dati o app fuori da Edge, aprire file o directory, cambiare i permessi e usare il menu contestuale.