Come avere un'AI più potente di ChatGPT gratis sul proprio PC

Immaginiamo questa scena: si sta lavorando a un progetto sul PC portatile in treno e la connessione va e viene. Proprio quando si deve finire quel lavoro urgente, ChatGPT diventa irraggiungibile. E ci si ritrova a fissare la rotellina che gira all’infinito mentre il paesaggio sfreccia fuori dal finestrino…

È frustrante dipendere sempre da una connessione Internet per usare l’AI. Ma c’è una buona notizia. È possibile far girare l’intelligenza artificiale direttamente sul proprio PC, senza Internet E senza abbonamenti.

Perché l’AI locale sul PC batte ChatGPT

Viviamo in un’epoca strana. Abbiamo computer sempre più potenti nelle nostre case, schede grafiche da migliaia di euro che usiamo per giocare a Call of Duty, mentre affidiamo il lavoro intellettuale a server dall’altra parte del mondo.

ChatGPT, Claude, Gemini: sono strumenti fantastici, non c’è dubbio. Ma c’è qualcosa di fondamentalmente sbagliato nel dipendere completamente da servizi cloud per ogni singola operazione di AI. Soprattutto quando si ha un computer potente.

L’AI locale non è solo per smanettoni o paranoici della privacy. È per chiunque voglia davvero possedere i propri strumenti di lavoro, controllare i propri dati, e non ritrovarsi bloccato quando il WiFi dell’hotel decide di fare i capricci proprio mentre si deve finire quella presentazione.

4 vantaggi dell’AI locale sul PC

1. Privacy

Ogni volta che si incolla qualcosa su ChatGPT, quei dati viaggiano attraverso la rete, vengono processati su server che non si controllano, e memorizzati chissà dove. OpenAI giura che sono al sicuro, Google promette di non guardare, Microsoft assicura che tutto è criptato. Ma chi ricorda quando le conversazioni di ChatGPT finivano su Google?… Ops.

Con un modello AI locale, i propri dati non lasciano mai il computer. Punto. Non c’è server che possa essere hackerato, non c’è policy sulla privacy che possa cambiare domani, non c’è amministratore di sistema curioso che possa dare un’occhiata. Se si sta lavorando su documenti aziendali riservati, analizzando dati sensibili di clienti, o semplicemente non si vuole che le proprie idee creative finiscano nei dati di addestramento di qualche gigante tech, l’AI locale è l’unica vera garanzia. Si dormono sonni più tranquilli. Non è paranoia, è professionalità.

2. L’AI gratuita costa caro…

Ma ChatGPT è gratis!, obietterà qualcuno. Davvero? Facciamo due conti. La versione gratuita dà accesso a modelli vecchi, con limiti di utilizzo, e priorità bassa quando i server sono sovraccarichi. Per chi vuole usare GPT-4 o GPT-5? Sono 23 euro al mese. E per ChatGPT Pro con accesso illimitato l’abbonamento è di 229 euro al mese. Duemilasettecento quarantotto euro l’anno. Per un servizio che si potrebbe replicare tranquillamente sul proprio PC.

E poi c’è il costo nascosto, quello ambientale. Ogni richiesta a ChatGPT consuma energia in qualche data center che probabilmente funziona ancora a combustibili fossili. Sam Altman stesso ha ammesso che l’AI avrà bisogno di una “frazione significativa” dell’energia mondiale. Con l’AI locale, almeno sai esattamente quanto si sta consumando. E se hanno pannelli solari sul tetto, ci si può anche sentire virtuosi mentre si genera immagini con Stable Diffusion.

Su un qualunque PC moderno possono girare modelli come Mistral o Llama 3 senza problemi. Certo, non sono veloci come ChatGPT sui server di OpenAI, ma sono gratis, sempre disponibili, e si possono personalizzare secondo i propri gusti.

3. Libertà creativa

I modelli online sono castrati da infinite policy, filtri, e limiti imposti per motivi legali, etici, o semplicemente di immagine aziendale. Con un modello locale, è l’utente a decidere i limiti.

Non stiamo suggerendo di usare l’AI per scopi illeciti. Ma c’è una differenza tra protezione e censura. Un scrittore di gialli che vuole esplorare la psicologia di un criminale per il suo romanzo non dovrebbe dover combattere con i filtri di ChatGPT. Un ricercatore che studia la disinformazione non dovrebbe essere bloccato quando cerca di capire come funzionano le fake news.

Con strumenti come Ollama, si può scegliere tra decine di modelli diversi, ognuno con le sue caratteristiche. Alcuni sono specializzati nel coding, altri nella scrittura creativa, altri ancora nell’analisi di dati. È possibile persino modificarli, fare fine-tuning con i propri dati, creare versioni personalizzate per le proprie esigenze specifiche. Con ChatGPT sarebbe impossibile.

4. L’integrazione

Quando l’AI vive sul computer, diventa parte del proprio flusso di lavoro in modi che i servizi cloud non possono eguagliare. È possibile integrare un modello locale direttamente in VS Code per avere suggerimenti di codice in tempo reale, senza latenza di rete. Si può processare video in DaVinci Resolve usando l’AI per correggere e ridurre il rumore, tutto offline. Si possono trascrivere ore di registrazione audio senza preoccuparsi di superare i limiti di upload o di pagare per ogni minuto elaborato.

Un fotografo professionista ad esempio, potrebbe usare l’AI locale per catalogare automaticamente migliaia di foto. I metadati, i volti riconosciuti, le scene identificate: tutto resta sul suo NAS, sotto il suo controllo completo. Nessun rischio che Google Foto decida domani di cambiare termini di servizio o di usare le sue foto per addestrare il prossimo modello.

L’AI locale si integra anche meglio con automazioni e script personalizzati. Si può costruire pipeline complesse che processano dati, generano report, creano contenuti, tutto senza mai dipendere da API esterne che potrebbero cambiare, diventare a pagamento, o semplicemente sparire.

Il futuro è ibrido

Usare un’AI locale non significa che bisogna abbandonare completamente ChatGPT. Ma avere alternative locali dà indipendenza e controllo. E i requisiti hardware sono meno proibitivi di quanto si immagina. Con 8GB di VRAM è possibile già far girare modelli rispettabili. Con 16GB si ha accesso a LLM seri. E i prezzi delle GPU stanno scendendo, mentre i modelli diventano sempre più efficienti. Quello che oggi richiede una RTX 4090, domani girerà su una 4060.

Microsoft sta spingendo i Copilot+ PC con NPU integrate. Apple ha i suoi chip Silicon ottimizzati per l’AI. Anche i produttori di smartphone stanno integrando acceleratori AI. Il trend oramai è chiaro. Per iniziare, va bene anche qualcosa di semplice, come Ollama, Llama 3 o Mistral. Si scoprirà un mondo di possibilità che non si sapeva di avere.