Anthropic lancia Citations per ridurre gli errori dell'AI

Mentre OpenAI fa parlare di sé con il nuovo agente autonomo Operator, l’azienda di Dario Amodei e soci lancia una novità che punta a rendere i suoi modelli AI più trasparenti e meno inclini agli errori.

Citations di Anthropic per citare frasi e passaggi di documenti usati per generare le risposte

Si chiama Citations ed è una funzione che permette agli sviluppatori di “ancorare” le risposte generate dai modelli di Anthropic, come quelli della famiglia Claude, a documenti specifici, come email o report. In pratica, l’AI potrà citare le fonti esatte da cui ha tratto le informazioni, fornendo riferimenti precisi a frasi e passaggi.

Secondo Anthropic, Citations sarà particolarmente utile per chi usa l’AI per riassumere documenti, rispondere a domande o fornire assistenza ai clienti. In questi casi, avere delle citazioni puntuali delle fonti può fare la differenza tra una risposta affidabile e una “allucinazione” fuorviante.

Ma attenzione, la funzione non è gratuita né universale. Per ora è disponibile solo per due modelli specifici, Claude 3.5 Sonnet e Haiku, e potrebbe comportare costi aggiuntivi in base alla lunghezza e al numero dei documenti usati come fonte. Un documento di 100 pagine, per esempio, costerebbe circa 30 centesimi con Sonnet e 8 centesimi con Haiku.

Una mossa per rimanere sotto i riflettori?

C’è chi vede nell’annuncio di Citations una mossa strategica di Anthropic per non farsi oscurare dalle novità dei concorrenti. Ma al di là delle possibili motivazioni, la funzione sembra un passo nella giusta direzione per rendere l’AI più trasparente e affidabile.

Certo, ci sono ancora dei limiti di disponibilità e di costi da superare. Ma se Anthropic riuscirà a estendere e a democratizzare questo strumento, potrebbe diventare un alleato prezioso per gli sviluppatori che vogliono sfruttare il potenziale dell’AI senza incappare in risposte campate per aria.

Funzioni come Citations sono senz’altro da apprezzare, soprattutto in questo momento. L’AI sta diventando sempre più potente e autonoma, e potersi fidare delle sue risposte è fondamentale. Principalmente quando si tratta di prendere decisioni importanti o di gestire informazioni sensibili.