Raspberry Pi ha lanciato una nuova scheda per far girare modelli di intelligenza artificiale generativa direttamente sul Pi 5, senza dover appoggiarsi a server remoti o cloud esterni. L’AI HAT+ 2 costa 130 dollari e promette 8GB di RAM dedicati più un chip Hailo 10H da 40 TOPS di potenza di calcolo. Tutto fantastico, ma i test dimostrano che un Raspberry Pi 5 standard con 8GB di RAM fa meglio.
Il problema è il consumo energetico. Mentre il Pi 5 può operare fino a 10 watt, l’AI HAT+ 2 è limitata a 3W, strozzando le prestazioni proprio nel momento in cui dovrebbe brillare.
Raspberry Pi lancia l’AI HAT+ 2: 8GB di RAM, ma è più lenta del modello base
L’AI HAT+ 2 è la versione evoluta della scheda AI lanciata lo scorso anno, che si concentrava sull’elaborazione di immagini. Questa nuova versione ha RAM integrata e può eseguire piccoli modelli AI come Llama 3.2, DeepSeek-R1-Distill e una serie di modelli Qwen. Permette anche addestrare e fare fine-tuning dei modelli direttamente sul dispositivo, una funzione interessante per chi vuole sperimentare senza dipendere da piattaforme esterne.
L’idea è delegare i carichi di lavoro legati all’AI alla scheda aggiuntiva, lasciando la CPU Arm del Raspberry Pi 5 libera di occuparsi di altre attività. In teoria, questo dovrebbe rendere il sistema più efficiente e performante. In teoria.
Le demo ufficiali vs i test indipendenti
Raspberry Pi ha condiviso delle demo che mostrano la AI HAT+ 2 in azione: un modello AI che genera descrizioni testuali di uno streaming video, risponde a domande sulla presenza di persone nella scena, traduce testi dal francese all’inglese con Qwen2. Tutto funziona, tutto sembra fluido e promettente.
Poi arriva Jeff Geerling, YouTuber tecnologico e tester seriale di hardware Raspberry Pi, e smonta le aspettative. Nei suoi benchmark, un Raspberry Pi 5 standard con 8GB di RAM ha superato l’AI HAT+ 2 nelle prestazioni con i modelli supportati. La ragione? Il limite energetico di 3W imposto alla scheda esterna contro i 10W che il Pi 5 può tranquillamente gestire.
Secondo Geerling, gli 8GB di RAM extra della scheda non sono sufficienti a dare a questa HAT un vantaggio rispetto al semplice acquisto di un Pi da 16GB con più RAM, che risulterebbe più flessibile e veloce nell’esecuzione dei modelli. In altre parole, se si vuole far girare l’AI sul Raspberry Pi, meglio comprare un modello con più RAM invece di spendere 130 dollari per una scheda che paradossalmente rallenta le cose.
Quando ha senso, se mai
Raspberry Pi sostiene che l’AI HAT+ 2 può essere ideale per casi d’uso specifici, senza però specificare esattamente quali siano. Probabilmente scenari in cui si vuole delegare completamente il lavoro AI a un modulo separato mentre il Pi 5 si occupa di altro, ma in quanti progetti reali questa configurazione offre vantaggi concreti rispetto a un Pi più potente?
La AI HAT+ originale, rilasciata l’anno scorso, rimane comunque un’opzione più economica (70 dollari) per l’elaborazione di immagini AI, se è quello l’obiettivo principale. Ma per i modelli generativi, il consiglio di Geerling è chiaro, meglio investire in un Pi con più RAM e risparmia i 130 dollari della scheda aggiuntiva.
Modelli più grandi in arrivo
Raspberry Pi ha dichiarato che altri modelli AI più grandi sono in fase di preparazione per futuri aggiornamenti e dovrebbero essere disponibili subito dopo il lancio. Una promessa vaga che non risolve il problema attuale, se la scheda è già limitata dal consumo energetico con i modelli piccoli supportati ora, come se la caverà con modelli più grandi e più pesanti?
A meno che Raspberry Pi non trovi un modo per aumentare il limite di 3W senza friggere la scheda, l’AI HAT+ 2 rischia di rimanere un esperimento interessante, ma poco pratico per chiunque cerchi prestazioni AI concrete su un dispositivo economico.