Microsoft non ha elettricità per usare le GPU di NVIDIA

OpenAI ha recentemente sottoscritto un accordo da 38 miliardi di dollari per l’accesso alle capacità di calcolo di Amazon Web Services. Due giorni prima, Satya Nadella (CEO di Microsoft) ha dichiarato che il vero problema è rappresentato dalla mancanza di elettricità per alimentare le GPU di NVIDIA necessarie all’addestramento dei modelli AI.

Microsoft non può usare le GPU

Tutte le aziende che sviluppano modelli di intelligenza artificiale acquistano capacità di calcolo esistente oppure costruiscono nuovi data center. Per alimentare i server con centinaia o migliaia di GPU occorre un’enorme quantità di energia, oltre a tonnellate di acqua per i sistemi di raffreddamento. NVIDIA può garantire l’approvvigionamento dei chip AI con il lancio di nuove architetture a cadenza quasi annuale, ma non ci sono fonti energetiche per alimentarle.

Durante un podcast organizzato da Brad Gerstner (BG2 Pod), Satya Nadella ha evidenziato il vero problema attuale (si può ascoltare a partire dal minuto 18:30 circa nel video). Commentando le parole di Jensen Huang (CEO di NVIDIA) sull’assenza di eccesso di computing per i prossimi due o tre anni, il CEO di Microsoft ha dichiarato che non c’è abbastanza elettricità per alimentare le GPU. L’azienda di Redmond ha quindi molte GPU nei magazzini che non possono essere installate nei server.

In pratica ci sono i data center, le GPU e l’acqua, ma non c’è la corrente elettrica. Questo collo di bottiglia rallenta lo sviluppo dei modelli AI. È possibile ordinare 100.000 GPU che verranno consegnate entro sei mesi, ma nello stesso intervallo di tempo non si può attivare una centrale elettrica. Tra progetto, permessi e costruzione passano anni.

L’incremento del numero di data center e quindi dell’energia elettrica necessaria al loro funzionamento ha causato un aumento delle bollette negli Stati Uniti. Come altre aziende, Microsoft ha deciso di investire nella costruzione, riconversione o ammodernamento delle centrali nucleari di piccole dimensioni.

In seguito alla pubblicazione del podcast è subito arrivato il commento di Elon Musk:

Se solo ci fosse un’azienda che fosse davvero brava con l’elettricità…

Il post è un chiaro riferimento a Tesla, in particolare ai Megapack, come evidenziato questa mattina.