NVIDIA lancia DGX Spark, il primo supercomputer AI personale

Nvidia sta per mettere in vendita un supercomputer AI da scrivania. Le dimensioni sono quelle di un tostapane… ma la potenza è di un petaflop. Un petaflop, per chi non lo sapesse, sono un milione di miliardi di calcoli al secondo, che è un numero talmente grande che il cervello umano fatica anche solo a concepirlo.

DGX Spark sarà disponibile dal 15 ottobre a 3.999 dollari. Originariamente doveva costare 3.000 dollari, ma tra l’annuncio iniziale e il lancio effettivo il prezzo è lievitato di quasi mille dollari.

Nvidia DGX Spark in vendita dal 15 ottobre: il supercomputer AI personale da scrivania

La cosa più surreale di Spark non è la potenza bruta, anche se un petaflop sulla scrivania è oggettivamente impressionante, ma il fatto che funziona con una normalissima presa di corrente. Non servono linee elettriche dedicate, non serve un impianto di raffreddamento industriale, non serve nemmeno tanto spazio. È un cubo che sta comodo su una scrivania e che trasforma chiunque abbia 4.000 dollari in tasca in qualcuno con accesso a potenza computazionale che fino a ieri richiedeva data center costosi ed energivori.

Jensen Huang, CEO di Nvidia che ama indossare giacche di pelle anche quando fa caldo, ha detto che l’obiettivo è mettere un supercomputer AI sulla scrivania di ogni data scientist, ricercatore AI e studente. È una visione democratica e nobile, se si ignora il prezzo… 4.000 dollari non sono esattamente accessibili a tutti gli studenti o ricercatori.

Ma se si confronta il costo di Spark con quello di affittare potenza di calcolo nel cloud o di acquistare server professionali, è effettivamente un affare. Ora non serve essere Google o OpenAI per avere potenza computazionale seria. Basta “solo” essere disposti a spendere quanto una buona auto usata o un viaggio alle Maldive.

Cosa c’è dentro DGX Spark

Spark è equipaggiato con il superchip GB10 Grace Blackwell di Nvidia, 128 GB di memoria unificata e fino a 4 TB di storage SSD NVMe. Può gestire modelli AI con fino a 200 miliardi di parametri, che è abbastanza per far girare modelli linguistici avanzati o reti neurali complesse senza sudare troppo.

Per fare un esempio pratico, GPT-3 ha 175 miliardi di parametri. Spark può gestire qualcosa di simile direttamente sulla propria scrivania. Non alla stessa velocità di un cluster di GPU in un data center, ma comunque a una velocità che fino a pochi anni fa sarebbe stata fantascienza.

Nvidia lo chiama “il supercomputer AI più piccolo al mondo“, e in effetti non esagera. È davvero piccolo per quello che fa. Non è grande come un PC tower tradizionale, sta tranquillamente su una scrivania senza occupare metà dello spazio disponibile.

Versioni custom

Nvidia non sta vendendo solo la versione ufficiale. Acer, Asus, Dell, Gigabyte, HP, Lenovo e MSI stanno tutti lanciando le proprie versioni personalizzate di Spark. Acer ha già annunciato il Veriton GN100 allo stesso prezzo di 3.999 dollari.

La concorrenza dovrebbe teoricamente abbassare i prezzi o migliorare le specifiche, ma probabilmente vedremo solo variazioni sul tema. Case leggermente diversi, software preinstallato diverso, qualche TB di storage in più o in meno. Il cuore sarà sempre lo stesso chip Nvidia con le stesse capacità fondamentali.

Chi lo comprerà davvero?

Nvidia dice che Spark è per ricercatori, data scientist e studenti. Ma realisticamente, chi spenderà 4.000 dollari per questo?

Ricercatori in università con budget decenti. Startup AI che non vogliono pagare servizi cloud a consumo. Sviluppatori che lavorano su modelli proprietari e non possono o non vogliono caricarli su server esterni. Hobbisti ricchi con la passione per l’AI e soldi da spendere. E forse qualche YouTuber tech che farà video epici testando modelli assurdi su hardware da scrivania.

Gli studenti? A meno che non abbiano genitori tanto generosi o borse di studio molto sostanziose, probabilmente continueranno a usare Google Colab gratuito o servizi cloud con crediti educativi. Quattromila dollari sono tanti soldi quando si condivide la casa con dei coinquilini e si vive di sughi pronti.

Ma per chi può permetterselo e ha davvero bisogno di quella potenza localmente, Spark è un’opzione che prima non esisteva. E questo conta.

Station: il fratello maggiore fantasma

Nvidia ha anche menzionato Station, una versione più potente di Spark. Ma non si sa quando o se arriverà sul mercato. Probabilmente sarà ancora più costoso, ancora più potente e ancora meno accessibile al pubblico generale. Forse sarà riservato a clienti enterprise, forse non verrà mai lanciato perché Nvidia decide di concentrarsi su altre cose. Chi lo sa.

Per ora, Spark è l’unico prodotto concreto con data di lancio e prezzo definiti. Il resto sono promesse nebbiose che potrebbero materializzarsi o evaporare a seconda di come vanno le vendite e l’interesse del mercato.