Anthropic ha pubblicato un post sul blog per presentare un sistema open source che dovrebbe stabilire quale modello ha prodotto una certa risposta. Il nome è FlashProve, e l’idea di fondo i ricercatori la chiamano “provable inference”, inferenza dimostrabile. Dietro l’etichetta c’è una prova crittografica, una specie di garanzia matematica che dice: questo testo l’ha scritto proprio quel modello lì, non un altro. Dà la possibilità di controllare che la risposta arrivi davvero da quel determinato sistema.
FlashProve: il sistema di Anthropic che dimostra quale AI ha scritto una risposta
L’esempio più vicino sono le firme crittografiche delle email, quelle che confermano che il messaggio l’ha mandato davvero il mittente dichiarato e non un presunto truffatore. FlashProve vorrebbe fare lo stesso per le AI, e resistere agli impostori che provano a far passare un modello per un altro.
Il dettaglio più interessante è che l’impostore potrebbe essere anche il laboratorio stesso che il modello l’ha sviluppato e lo gestisce. Secondo i ricercatori, il sistema servirebbe a impedire a un’azienda di sostituire di nascosto il modello costoso con uno più economico per tagliare le spese. E funzionerebbe anche al contrario, scoraggiando chi mette in campo un modello più potente del dichiarato per gonfiare i risultati nei test. Un bel modo di mettere al guinzaglio la tentazione.
L’impronta digitale che non svela il segreto
Per funzionare, il sistema chiede ai laboratori di pubblicare una “fingerprint“, un’impronta digitale, per ogni modello che rilasciano. Quell’impronta si può poi confrontare con i singoli output e controllare per via crittografica.
La parte che interessa alle aziende è che l’impronta non rivela i pesi del modello. Sono i numeri interni che ne definiscono il comportamento, il tesoro che chi fa modelli chiusi, come Anthropic e OpenAI, tiene sotto chiave. I laboratori possono quindi mostrare la loro impronta senza consegnare la ricetta segreta, e il meccanismo regge anche con i modelli commerciali. Il sistema è pensato per essere leggero, tanto che la verifica potrebbe girare su un dispositivo locale.
Per ora è un cantiere aperto
I ricercatori hanno rilasciato una specifica tecnica dettagliata e codice funzionante per vari pezzi del sistema, tutto con licenza open source su GitHub. Ma la ricerca è in corso e non c’è alcun piano per mettere FlashProve in produzione.
Gli autori ci tengono a sottolinearlo, il post vuole condividere un avanzamento intermedio, non un programma di ricerca concluso. E sono chiari, lo condividono perché altri guardino il lavoro fatto, lo prendano e lo migliorino.
Ti potrebbe interessare
4 nov 2026