Microsoft ha dimostrato ancora una volta che non servono modelli AI enormi per eseguire molte attività. Fara-7B, come si deduce dal nome, ha solo 7 miliardi di parametri, quindi rientra nella categoria degli SLM (Small Language Model). Può quindi essere installato direttamente sul computer e offre anche capacità agentiche.
Fara-7B: modello agentico on-device
Microsoft ha introdotto i primi modelli di piccole dimensioni nel 2024. Phi è accessibile agli sviluppatori tramite Azure, mentre Phi Silica è installato sui Copilot+ PC con Windows 11. Fara-7B è il nuovo modello open che supporta la modalità “computer use“. Può quindi eseguire vari compiti per conto dell’utente. Ciò avviene direttamente sul dispositivo senza accesso al cloud. Ci sono pertanto vantaggi in termini di prestazioni (latenza) e privacy.
Come altri simili modelli, Fara-7B può “vedere” il contenuto sullo schermo e simulare le azioni di mouse e tastiera. Nell’esempio mostrato nel video, il modello cerca ed acquista un controller per Xbox. L’utente deve sempre approvare il pagamento e l’inserimento dei dati personali.
Considerando il rapporto tra accuratezza e costo, Fara-7B supera GPT-4o e GPT-5 in diversi compiti. Gli sviluppatori possono istallare il modello sui Copilot+ PC. In futuro potrebbe essere usato per la funzionalità Copilot Actions. Come tutti i modelli possiede alcune limitazioni, come l’impossibilità di eseguire determinate azioni e le allucinazioni. Ha tuttavia il vantaggio di non accedere al cloud.
Microsoft sottolinea che sono state implementate diverse misure di sicurezza. Le azioni si interrompono quando deve essere utilizzato un dato personale. Il modello non invia email o completa una transazione senza il consenso esplicito. Ci sono chiaramente i soliti rischi di un agente AI, tra cui l’esecuzione di istruzioni nascoste in pagine web, email o documenti (attacco di prompt injection). Per questo motivo è consigliabile l’esecuzione in un ambiente sandboxed.