Claude di Anthropic può creare e modificare file

Anthropic ha annunciato una nuova capacità di Claude. Gli utenti possono sfruttare una funzionalità sperimentale che permette di creare e modificare vari tipi di file, tra cui documenti Word, fogli di lavoro Excel, presentazioni PowerPoint e PDF. La startup californiana avverte però che ci sono rischi per la sicurezza.

Come funziona la creazione dei file

La nuova funzionalità può essere attivata nelle impostazioni di Claude (web e desktop) dagli utenti con abbonamento Max, Enterprise e Team (sarà disponibile anche per il piano Pro nelle prossime settimane). L’assistente AI può creare e modificare i file durante la conversazione. È sufficiente solo inserire un prompt in linguaggio naturale e caricare i file necessari, come mostrato nel seguente video:

È in pratica la versione Anthropic della funzionalità Code Interpreter di ChatGPT e una versione aggiornata del tool di analisi annunciato a fine ottobre 2024. Claude può generare documenti Word (.docx), fogli di lavoro Excel (.xlsx), presentazioni PowerPoint (.pptx) e PDF. I file possono essere scaricati sul computer o caricati in Google Drive. La dimensione massima dei file (download e upload) è 30 MB.

Anthropic ha pubblicato alcuni esempi per mostrare la nuova capacità dell’assistente AI, come l’analisi dei dati, la modifica dei file e la creazione di un modello finanziario dinamico.

Rischi per la sicurezza

In fondo al post che annuncia la funzionalità, Anthropic avverte l’utente che Claude accede ad Internet per creare e analizzare i file, quindi i dati degli utenti possono essere a rischio. Come evidenzia l’esperto Simon Willison, Claude può scrivere ed eseguire codice Python e Node.js in un ambiente lato server (un container con Ubuntu 24.04.2, 9 GB di RAM e circa 5 GB di storage).

Claude può scaricare ed eseguire pacchetti (ad esempio npm) per generare i file. Questa capacità potrebbe essere sfruttata per un attacco di prompt injection. Un malintenzionato potrebbe aggiungere istruzioni in file esterni o siti web che, quando eseguite da Claude, raccolgono dati sensibili dai documenti caricati dagli utenti che vengono inviati al cybercriminale.

Anthropic ha implementato una serie di mitigazioni per limitare i rischi, ma non viene garantita la sicurezza assoluta. Gli utenti dovrebbero prestare molta attenzione ed usare la funzionalità per una durata limitata.