Il Pentagono vuole modelli AI addestrati con dati militari

Il Pentagono utilizza ancora il modello Claude di Anthropic (integrato nel Maven Smart System di Palantir), ma presto verrà sostituito da modelli alternativi (forse quelli di OpenAI e xAI). Secondo il MIT Technology Review avrebbe anche previsto di usare dati militari classificati per l’addestramento.

Informazioni più accurate, ma rischi maggiori

Come detto, il Dipartimento della Guerra (ex Dipartimento della Difesa) utilizza Claude per varie attività, tra cui l’analisi dei dati raccolti da varie fonti (satelliti, droni) e la scelta degli obiettivi da colpire (come in Iran). È stato anche usato per pianificare la cattura del Presidente del Venezuela Nicolas Maduro.

Il modello di Anthropic è una versione derivata da quella accessibile a tutti. Secondo le fonti del MIT Technology Review, il Pentagono vuole modelli AI addestrati con dati militari classificati, come report di sorveglianza e valutazioni del campo di battaglia. Ciò permetterebbe di ottenere informazioni più accurate per le cosiddette “guerre AI”.

L’addestramento dovrebbe avvenire in un data center sicuro, dove i modelli AI di OpenAI e xAI (Anthropic è ovviamente esclusa) riceverebbero in input i dati classificati. I dipendenti della aziende AI potrebbero accedere ai dati solo in casi eccezionali con specifiche autorizzazioni. È tuttavia previsto un test preliminare con dati non classificati, come le immagini satellitari.

Alcuni esperti hanno evidenziato i possibili rischi. I dati classificati usati per l’addestramento potrebbero essere svelati durante l’uso dei modelli. I dipendenti dei dipartimenti potrebbero ad esempio scoprire i nomi dei militari o altre informazioni sensibili, alle quali non hanno i permessi di accesso. Poco probabile invece la divulgazione online o l’invio dei dati alle aziende AI, in quanto i sistemi usati dal Pentagono non accedono ad Internet.