FlashProve di Anthropic: un prototipo per verificare crittograficamente quale modello ha generato una risposta
Immagine generata dalla Redazione di Inferama
01

Il problema della fiducia nell’inferenza dei modelli

Chi interroga un modello di IA, di norma, non può verificare in modo affidabile che la risposta provenga proprio dal modello scelto. Un servizio di instradamento potrebbe sostituirlo con uno meno costoso, oppure un aggressore potrebbe alterare il flusso di token. La qualità della risposta, da sola, non dimostra quale modello l’abbia generata: questo limite è rilevante per valutatori indipendenti, clienti e autorità di controllo.

Anthropic propone la cosiddetta inferenza dimostrabile per affrontare il problema. L’obiettivo è permettere a chi ha risorse di calcolo limitate di controllare che una risposta sia stata prodotta dal modello richiesto, senza accedere ai suoi pesi privati e senza dover eseguire il modello in locale. Il sistema presentato, FlashProve, è un prototipo di ricerca, non una funzione commerciale già disponibile.

02

Come funzionano le prove zkSNARK di FlashProve

FlashProve si basa su zkSNARK, argomenti crittografici succinti a conoscenza zero. Prima dell’inferenza, il fornitore pubblica un impegno crittografico ai pesi del modello: una sorta di impronta che identifica una configurazione precisa, pur mantenendo nascosti i pesi. In seguito, per una richiesta, il fornitore produce una prova che collega quell’impegno, il prompt e i token di risposta.

Il sistema mira a soddisfare quattro proprietà. La completezza significa che una prova onesta viene accettata; la soundness, o solidità, rende computazionalmente impraticabile far accettare una prova falsa, date le ipotesi crittografiche adottate. La proprietà di conoscenza zero protegge i pesi, mentre la succintezza permette di verificare la prova con meno risorse rispetto a quelle necessarie per ripetere il calcolo. La prova non nasconde l’architettura del modello. Queste proprietà descrivono ciò che il protocollo intende garantire; non attestano che il testo prodotto sia corretto o sicuro.

Proprietà dichiarate per le prove di FlashProve

ProprietàChe cosa significa
CompletezzaUna prova prodotta onestamente viene accettata dal verificatore.
SoundnessUna prova valida per un’affermazione falsa dovrebbe essere computazionalmente impraticabile da costruire, secondo le ipotesi crittografiche del protocollo.
Conoscenza zeroLa prova non rivela i pesi né i valori intermedi dell’inferenza; non nasconde l’architettura del modello.
SuccintezzaLa verifica richiede molte meno risorse del ricalcolo del modello, ma ha comunque un costo misurabile.
03

Prestazioni misurate e loro contesto

Anthropic ha valutato il prototipo con Llama 4 Maverick, un modello mixture-of-experts con 400 miliardi di parametri, usando pesi quantizzati a 4 bit. Nella configurazione descritta, una singola GPU H100 ha generato prove a circa 110 token al secondo. Ogni prova aveva una dimensione di circa 19 MB per una richiesta di 1.024 token.

La verifica ha richiesto circa 17 secondi con una CPU a 24 thread. Anthropic riferisce inoltre che la generazione delle prove ha impiegato da 70 a 95 volte il tempo GPU necessario all’inferenza confrontata con vLLM. Questi numeri si riferiscono ai modelli, all’hardware, alle rappresentazioni numeriche e alle condizioni specifiche dell’esperimento dell’azienda: non sono una stima garantita per altre configurazioni e non risultano qui riprodotti indipendentemente.

Metriche riportate per la configurazione valutata

MetricaValore riportatoCondizioni
Generazione delle proveCirca 110 token/sUna GPU H100; Llama 4 Maverick con pesi quantizzati a 4 bit
Dimensione della provaCirca 19 MBPer richiesta di 1.024 token
Tempo di verificaCirca 17 secondiCPU a 24 thread
Tempo GPU aggiuntivoCirca 70–95 volteConfronto con l’inferenza vLLM descritta da Anthropic
04

Materiali pubblicati e verifica formale

Anthropic ha pubblicato il prototipo e la documentazione collegata con licenza Apache 2.0. Il rilascio comprende una pubblicazione di ricerca, un rapporto tecnico, una specifica del protocollo, codice eseguibile con un dimostratore e due verificatori, oltre a formalizzazioni e prove in Lean. Il codice comprende un verificatore in C++ e uno in Lean, più lento ma collegato alle proprietà formalizzate.

Il progetto usa Lean, un assistente per la dimostrazione di teoremi, per esprimere e verificare formalmente proprietà come completezza, soundness e conoscenza zero. Una prova formale non certifica automaticamente ogni parte del software distribuito: occorre verificare che il codice eseguibile corrisponda al protocollo formalizzato e che le proprietà formalizzate rispecchino l’intento. Anthropic segnala inoltre che l’audit delle affermazioni formali richiede valutazione umana.

05

Che cosa dimostra il prototipo e che cosa resta fuori

FlashProve mira a dimostrare che i token di una risposta corrispondono all’esecuzione di un modello vincolato da un impegno crittografico, su un prompt specifico e secondo le condizioni del protocollo. La prova riguarda la provenienza computazionale, non la qualità della risposta: non stabilisce che il testo sia accurato, sicuro, imparziale o utile. Non dimostra neppure che il fornitore non abbia svolto altre attività, come l’addestramento, sulle proprie infrastrutture.

La valutazione descritta riguarda Llama 4 Maverick quantizzato a 4 bit e richieste di 1.024 token; non giustifica l’estensione automatica dei risultati ad altri modelli o a contesti più lunghi. Il prototipo genera le prove dopo l’inferenza, quindi non blocca in tempo reale un’eventuale manipolazione: può consentire di rilevarla a posteriori se la prova viene verificata. Il rapporto tecnico descrive inoltre limiti e costi di questa scelta. Anthropic definisce il lavoro un progresso intermedio, e non indica una data confermata per il lancio commerciale.

06

Costi operativi e possibili impieghi

Il processo ha una fase preliminare e una fase successiva alle richieste. Nella fase preliminare, il fornitore crea l’impegno ai pesi del modello. Nella fase successiva, genera prove per le richieste e le relative risposte; il verificatore può controllarle senza conoscere i pesi e senza disporre di una GPU. Anthropic indica che, nella configurazione sperimentale, la creazione iniziale dell’impegno richiedeva circa 39 minuti e che l’impegno valeva per circa 16 milioni di richieste, dopo le quali sarebbe stato necessario generarne uno nuovo.

Queste caratteristiche potrebbero interessare valutatori che vogliono verificare quale modello è stato sottoposto a test, clienti che passano da servizi di instradamento esterni e autorità che controllano impegni specifici sull’uso di modelli. Restano però questioni pratiche: la generazione delle prove è molto più costosa dell’inferenza ordinaria, e la modalità post-hoc comporta ritardi e ricalcolo. Una prova verificata attesta la relazione tra modello impegnato, prompt e risposta nei termini del protocollo, non garantisce da sola che ogni richiesta del servizio venga provata o che l’intero sistema operativo sia conforme a una regola.

07

Perché le prove formali non chiudono ogni questione di fiducia

I protocolli crittografici possono essere vulnerabili a errori di implementazione anche quando le proprietà matematiche sono formulate correttamente. Anthropic ha quindi formalizzato alcune proprietà in Lean e distribuito un verificatore formale insieme a uno in C++. Il verificatore Lean offre un collegamento verificabile con la formalizzazione, mentre la versione C++ è pensata per l’uso quotidiano e non ha la stessa garanzia formale.

Rimangono distinti almeno tre aspetti: la correttezza delle affermazioni formalizzate, la corrispondenza tra protocollo e programma eseguibile e il comportamento del sistema nell’uso reale. Il lavoro non elimina la necessità di controlli sul codice, sul verificatore e sulla procedura con cui il fornitore pubblica e usa l’impegno ai pesi. Le prove formali riducono una parte del rischio, ma non sostituiscono un audit completo né dimostrano che la risposta sia affidabile in senso più ampio.

08

Continua a esplorare

Fonti consultate

03

Correzioni e trasparenza

Se trovi un dato errato o non aggiornato, inviaci la pagina e la fonte da verificare.

Proponi una correzione