OpenAI ha annunciato ieri sera due modelli open-weight: gpt-oss-20b e gpt-oss-120b. Offrono capacità di ragionamento e possono essere eseguiti direttamente su smartphone e notebook. Gli utenti possono già utilizzarli sui Copilot+ PC con processori AMD Ryzen AI 300.
Basta una GPU con 16 GB di memoria
Entrambi i modelli sono stati addestrati con le GPU NVIDIA H100. Il modello gpt-oss-20b ha circa 21 miliardi di parametri e offre prestazioni simili al modello o3-mini, mentre gpt-oss-120b ha circa 117 miliardi di parametri e offre prestazioni simili al modello o4-mini.
Gli sviluppatori possono scaricarli da Hugging Face oppure utilizzarli tramite Microsoft Azure e, per la prima volta, Amazon Web Services. In alternativa è possibile sfruttare i Copilot+ PC con processori AMD Ryzen AI 300.
Le funzionalità AI di Windows 11 24H2, tra cui Recall e Click to Do, vengono eseguite localmente utilizzando Phi Silica, il modello di Microsoft. In attesa del supporto nativo, gli utenti possono sfruttare la potenza del Ryzen AI Max+ 395 per eseguire sul notebook il modello gpt-oss-120b con LM Studio. È necessario però installare i driver Adrenalin Edition 25.8.1 WHQL o versioni superiori e allocare 96 GB di RAM su 128 GB come memoria grafica (Variable Graphics Memory).
Per il modello gpt-oss-20b è invece sufficiente un Ryzen AI 300 con 16 GB di RAM allocata su 32 GB. Chi vuole maggiori prestazioni può utilizzare una Radeon RX 9070 XT con 16 GB di memoria GDDR6.
Il modello gpt-oss-20b può essere eseguito anche su uno smartphone. Qualcomm ha già annunciato il supporto per i suoi processori Snapdragon (quasi sicuramente i modelli di fascia alta). Gli utenti potranno quindi utilizzare le avanzate funzionalità AI direttamente sul dispositivo, senza accedere al cloud (maggiori prestazioni e privacy).