Per colpa dell’intelligenza artificiale non è più possibile acquistare un modulo di DRAM a prezzi umani. Diversi produttori hanno iniziato ad offrire dispositivi con una quantità di memoria inferiore (Microsoft ha ottimizzato Windows 11) oppure vecchie tecnologie (DDR4). Poi arriva Sam Altman, CEO di una delle aziende responsabili dell’aumento dei costi, con una affermazione piuttosto infelice (eufemismo).
La DRAM è uno spreco nei PC, meglio il cloud
I principali produttori continuano a registrare profitti stellari con la vendita di chip di memoria per data center, evidenziando allo stesso tempo le difficoltà di approvvigionamento e aumenti dei prezzi almeno fino al 2028. Durante un’intervista rilasciata al canale YouTube Cheeky Pint, Sam Altman ha dichiarato che la DRAM non dovrebbe essere usata nei PC per l’inferenza locale, ma sul cloud.
Queste sono le parole pronunciate dal CEO di OpenAI a partire dal minuto 29 circa:
Molte persone desiderano l’inferenza in locale. E, in un certo senso, danno per scontato che il problema sia ormai risolto: grazie ai modelli open source, potremo eseguirli sui nostri computer, rendendo così superflue le infrastrutture dei data center. Tuttavia, se guardiamo alla questione in un’ottica di allocazione globale delle risorse, la situazione è tutt’altro che ideale: è uno spreco enorme che una parte della limitata disponibilità mondiale di memoria DRAM rimanga ferma nei computer dei singoli utenti, venendo utilizzata, di fatto, solo per il 5% del tempo. In un contesto caratterizzato da una forte scarsità di risorse, l’obiettivo dovrebbe essere quello di massimizzare l’utilizzo nel cloud. Eppure, l’intuizione di molti va esattamente nella direzione opposta.
Secondo Altman, gli sviluppatori non dovrebbero “sprecare” la DRAM per l’inferenza sul dispositivo. Meglio lasciare la poca DRAM in vendita ai data center e, ovviamente, sottoscrivere l’abbonamento per l’accesso ai modelli GPT, invece di usare quelli open source.
Uno dei commenti che si possono leggere sotto il video pubblicato su YouTube descrive chiaramente il pensiero di milioni di utenti:
È terribile che Sam Altman abbia tutti quegli organi nel proprio corpo, quando persone migliori potrebbero farne un uso più efficiente.