Anthropic: Claude può diventare un rischio per l'umanità

Anthropic: Claude può diventare un rischio per l'umanità

Anthropic ha evidenziato i rischi catastrofici o esistenziali per l'umanità rappresentati da Claude nel documento relativo alla quotazione in Borsa.
Anthropic: Claude può diventare un rischio per l'umanità
Anthropic ha evidenziato i rischi catastrofici o esistenziali per l'umanità rappresentati da Claude nel documento relativo alla quotazione in Borsa.

Anthropic si prepara alla quotazione in Borsa, quindi ha inviato alla SEC (Securities Exchange Commission) degli Stati Uniti il documento che illustra la situazione finanziaria. Quasi un terzo delle pagine (80 su 261) sono riservate ai fattori di rischio. L’azienda californiana avverte gli investitori che i suoi modelli Claude potrebbero rappresentare un rischio esistenziale per l’umanità. Sam Altman (CEO di OpenAI) ha invece confermato che l’IPO inizierà solo dopo aver risolto i problemi di sicurezza.

I modelli Claude mostrano segnali preoccupanti

L’attuale valutazione di Anthropic è circa 1.000 miliardi di dollari. Al termine dell’offerta pubblica iniziale (IPO) dovrebbe arrivare a 2.000 miliardi di dollari, quindi superiore ai circa 1.800 miliardi di SpaceX. Nella documentazione, letta da Reuters, ci sono i dati finanziari. L’azienda guidata da Dario Amodei ha registrato perdite nette di 42 miliardi di dollari nel 2025, mentre le entrate sono circa 4,6 miliardi. Nei prossimi anni spenderà 518 miliardi di dollari in cloud e infrastrutture.

Come detto, 80 pagine su 261 sono riservate ai fattori di rischio associati all’investimento, ovvero ciò che potrebbe determinare una diminuzione del valore azionario. Anthropic evidenzia che i suoi modelli Claude potrebbero manifestare comportamenti di autoconservazione, inclusi tentativi di resistere allo spegnimento o manipolare informazioni.

L’azienda aggiunge che i modelli sviluppano a volte capacità impreviste durante l’addestramento. Tali capacità potrebbero non essere scoperte finché non vengono messi in esercizio e non causano incidenti di sicurezza significativi. In un altro punto del documento è scritto che lo sviluppo potrebbe comportare rischi catastrofici o esistenziali per l’umanità. È in pratica un avvertimento simile a quello di un ex dipendente.

La quotazione in Borsa è attualmente prevista a novembre dopo le elezioni di metà mandato negli Stati Uniti. Sam Altman (CEO di OpenAI) ha invece confermato quanto detto a metà settembre. La quotazione dell’azienda non avverrà prima del 2027. È necessario risolvere gli attuali problemi di sicurezza. L’elenco degli attacchi effettuati dai suoi modelli AI diventa sempre più lungo.

Fonte: Reuters
Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il
1 ott 2026
Link copiato negli appunti