AI in locale, disponibile Llama Windows: cos'è e come funziona

Hugging Face e llama.app annunciano la disponibilità di Llama Windows, un’utility che si colloca direttamente nella systray di Windows 11, permettendo di scaricare ed eseguire modelli AI in locale, un po’ come avviene con LM Studio e con le altre alternative già in circolazione. In questo caso, il vantaggio è da ricercare nella volontà di proporre uno strumento il meno possibile invasivo per le risorse del sistema e per l’esperienza dell’utente, semplice e alla portata di tutti. Per molti potrebbe diventare una valida alternativa a servizi che si basano sul cloud come ChatGPT, Claude, Gemini e Copilot.

Come funziona Llama Windows per l’AI in locale

Realizzato con il framework WinUI 3 di Microsoft, è accessibile anche a chi non ha dimestichezza con tool di questo tipo. Basta un clic per dare il via al download del modello scelto, poi le interazioni potranno essere gestite via prompt, attraverso l’interfaccia integrata.

Tra le impostazioni ci sono quelle per l’avvio automatico all’accensione del PC e per caricare immediatamente la chat con la combinazione di tasti Alt+Spazio (Esc per nasconderla).

Con un clic su Search models… è possibile cercare esattamente quello desiderato. Ho fatto un test con Qwen-Image-2.1 Uncensored Quantized, ma l’operazione non è andata a buon fine (nello screenshot qui sotto il messaggio di errore). Tutto ok invece con Gemma 3.

Dopo averlo selezionato è stato sufficiente attendere qualche minuto perché terminasse il download, prima di iniziare a utilizzarlo, semplicemente digitando un prompt nella chat. Come sempre, quando si tratta di intelligenza artificiale, l’affidabilità dei risultati restituiti è da verificare.

Oltre alla semplicità d’uso, che potrebbe fare la differenza per chi si avvicina a tool di questo tipo, Llama Windows supporta l’interazione da parte delle altre applicazioni installate nel computer. Ciò significa che i modelli scaricati possono essere messi a disposizione di software come i programmi di editing e i client dedicati agli agenti AI.

Tutta la documentazione è consultabile nel repository GitHub del progetto. Per quanto riguarda download e installazione c’è il link diretto al file .msixbundle (versione 0.12.0) su llama.app.