Claude Fable 5 era stato temporaneamente bloccato perché Amazon aveva trovato un modo per aggirare le protezioni cyber. Anthropic ha ora annunciato miglioramenti per le protezioni che evitano usi illeciti nel campo della biologia. Diversi ricercatori hanno evidenziato la presenza di restrizioni eccessive.
Meno falsi positivi con prompt di biologia
Anthropic ha implementato le protezioni tramite specifici classificatori per cybersicurezza, biologia, chimica e distillazione. L’obiettivo è bloccare prompt che aggirano queste protezioni per abusare delle capacità del modello. Molti ricercatori hanno notato che Fable 5 non risponde a innocue domande di biologia. L’azienda californiana ha ora introdotto miglioramenti che riducono i falsi positivi e quindi la probabilità di switch automatico al modello inferiore (Opus 5).
In pratica, gli utenti dovrebbero riscontrare meno problemi nelle domande quotidiane relative alla salute e all’istruzione, ad esempio nell’interpretazione dei risultati di laboratorio, nella comprensione dei sintomi e nell’apprendimento della biologia in un contesto educativo. Gli operatori sanitari potranno ricevere maggiore supporto da Fable 5 nelle attività cliniche.
Viene ancora effettuato il passaggio a Opus 5 per richieste di virologia, tossicologia e progettazione molecolare. Fable 5 può fornire un aiuto ai ricercatori che sviluppano una nuova terapia medica, ma nelle mani sbagliate potrebbe essere utilizzato per sviluppare un’arma biologica. Proprio per evitare questo “doppio uso” erano state bloccate quasi tutte le query in biologia.
Anthropic ha riscritto le regole del classificatore relativo alla biologia, ricevuto feedback degli esperti sulle modifiche e aggiornato i dati usati per l’addestramento. Ora il classificatore blocca l’85% delle query innocue in meno rispetto alla versione iniziale, quindi Fable 5 può fornire un numero maggiore di risposte nel campo della biologia.
Ti potrebbe interessare
8 ago 2026