OpenAI svela il suo primo chip AI con Broadcom: è Jalapeño

OpenAI ha costruito il proprio chip. Si chiama Jalapeño, un nome “piccante” per un processore progettato per fare una cosa sola: far funzionare ChatGPT e i suoi agenti più velocemente e con meno energia. Sviluppato in partnership con Broadcom, è il primo passo di OpenAI verso l‘indipendenza da NVIDIA, il fornitore di GPU che alimenta quasi tutta l’AI del pianeta, ma le cui schede sono in fornitura limitata e costano una fortuna.

Il CEO di Broadcom Hock Tan dice che le prestazioni di Jalapeño sono paragonabili ai chip Blackwell di NVIDIA e alle TPU di Google.

Cosa fa Jalapeño di OpenAI

Jalapeño è un ASIC, un circuito integrato progettato per un compito specifico: l’inferenza AI. L’inferenza è ciò che succede quando ChatGPT elabora le richieste, quando Codex scrive codice, quando un agente esegue un compito. Non è l’addestramento, la fase in cui il modello consuma montagne di dati per imparare, ma la fase in cui il modello lavora per conto dell’utente.

È la parte che costa di più in termini di volume, ogni messaggio che si invia a ChatGPT è un’operazione di inferenza. Centinaia di milioni di utenti, miliardi di richieste. Avere un chip progettato specificamente per questo, invece di usare GPU generiche di NVIDIA, significa potenzialmente costi più bassi per query e meno dipendenza da un singolo fornitore.

Le prestazioni

OpenAI dice che Jalapeño è il primo passo in una piattaforma di calcolo multi-generazionale e prevede di distribuirlo entro fine 2026. Secondo i primi test, il chip potrebbe garantire più potenza consumando meno energia rispetto alle soluzioni attuali.

Microsoft, Meta, Amazon e Google hanno tutti lanciato chip AI personalizzati negli ultimi mesi. Microsoft ha Maia, Amazon ha Trainium, Google ha le TPU, Meta ha MTIA. Tutti cercano di ridurre la dipendenza da NVIDIA, i cui chip restano i più performanti in assoluto, ma i cui prezzi e tempi di consegna danno a Jensen Huang un potere di mercato che nessun cliente vuole subire a lungo termine. Ora anche OpenAI si è unito al gruppo con Jalapeño.