Google annuncia le TPU Ironwood e le CPU Axion

Google ha annunciato la disponibilità generale delle nuove TPU (Tensor Processing Unit) di settima generazione (nome in codice Ironwood) e delle CPU Axion basate sull’architettura Arm Neoverse che verranno utilizzate nelle istanze VM (macchine virtuali). Entrambi i chip serviranno per addestramento e inferenza dei modelli AI. Tra i clienti c’è Anthropic.

Google sfida NVIDIA

Google evidenzia che molti modelli AI, tra cui Gemini, Imagen, Veo e Claude sono addestrati con le sue TPU. Ironwood e Axion permetteranno di incrementare le prestazioni, diminuire i costi e fornire la potenza di calcolo per le nuove funzionalità agentiche. I nuovi chip AI hanno tutte le carte in regole per sfidare i prodotti di NVIDIA, attuale leader del mercato.

Le TPU Ironwood offrono prestazioni fino a dieci volte superiori a quelle delle TPU di quinta generazione e oltre quattro volte superiori a quelle delle TPU di sesta generazione (Trillium). Sono anche più efficienti dal punto di vista energetico. Google può creare un superpod con 9.216 TPU Ironwood e 1,77 PB di memoria HBM3e condivisa. Le prestazioni arrivano a 42,5 exaFLOPS.

Collegando più superpod tramite fibra ottica, Google può ottenere cluster composti da centinaia di migliaia di TPU Ironwood, noti anche come AI Hypercomputer. Il secondo componente principale di un superpod sarà la CPU Axion. L’azienda di Mountain View non ha pubblicato le specifiche, ma ha solo annunciato l’arrivo di due istanze VM.

La prima è N4A con un massimo di 96 vCPU, 512 GB di memoria DDR5 e connettività a 50 Gbps. La seconda è C4A Metal con un massimo di 96 vCPU, 768 GB di memoria DDR5 e connettività fino a 100 Gbps. Si aggiungono alla precedente C4A (72 vCPU e 576 GB di memoria DDR5). Le CPU Axion possono essere installate anche in server general purpose, non solo in quelli usati per l’addestramento dei modelli AI.

Come detto, uno dei clienti è Anthropic. La startup californiana ha recentemente sottoscritto un accordo che prevede l’uso di un milione di TPU entro il 2026. Secondo le fonti di Business Insider, Google potrebbe partecipare ad un nuovo round di investimenti.