Presentazione di FlashProve e il suo obiettivo
Anthropic ha pubblicato il 2 novembre 2026 FlashProve, un prototipo di ricerca open source con licenza Apache 2.0. Il sistema consente di verificare criptograficamente se un token di una risposta corrisponde all'output di un modello di intelligenza artificiale precedentemente impegnato, senza che l'utente debba accedere ai pesi del modello.
L'obiettivo principale è risolvere il problema della sostituzione dei modelli da parte di intermediari. Secondo Anthropic, oggi un utente non può verificare con certezza che la risposta provenga dal modello selezionato e non da uno più economico o manipolato. Lo strumento mira ad aiutare valutatori indipendenti, clienti aziendali e regolatori a garantire l'integrità dei token generati.
Meccanismo tecnico: prove a conoscenza zero
Il sistema si basa sull'inferenza dimostrabile mediante un oggetto crittografico noto come zkSNARK (zero-knowledge succinct argument of knowledge). Questo meccanismo consente a un provider di modelli di inviare, insieme alla risposta, una prova breve che l'utente può verificare rapidamente sul proprio dispositivo.
Il processo inizia con un impegno crittografico: il provider fissa un'impronta dei pesi del modello senza rivelarli. Successivamente, per ogni richiesta, genera una prova che collega quell'impronta all'input e a un token di output. La tecnica protegge le informazioni riservate, sebbene l'architettura del modello non rimanga nascosta. La verifica avviene con risorse computazionali limitate, senza necessità di GPU sul lato client.
Flusso di verifica in FlashProve
- 01Il provider pubblica un impegno crittografico sui pesi del modello (una volta per modello).
- 02L'utente invia una query al modello tramite il provider.
- 03Il provider genera la risposta e una prova crittografica (zkSNARK) associata a un token di output.
- 04L'utente riceve la risposta e la prova.
- 05L'utente verifica la prova localmente utilizzando l'impegno, l'input e il token, senza accedere ai pesi.
Prestazioni e condizioni sperimentali
Per la dimostrazione, Anthropic ha utilizzato una versione di Llama 4 Maverick di Meta, quantizzata a 4 bit. Il team ha elaborato lotti di 24 richieste con finestre di 1.024 token su una GPU Nvidia H100 e un server con 24 core CPU. Secondo l'azienda, ogni prova ha verificato un singolo token di output e occupato circa 19 MB.
La verifica di una prova ha richiesto 17 secondi con 24 thread CPU o 21 secondi con un singolo thread. La cifra di 110 token al secondo corrisponde all'elaborazione dei contesti in quel test, non alla verifica individuale di ogni token di risposta. La generazione delle prove ha richiesto da 70 a 95 volte più tempo GPU rispetto all'elaborazione delle stesse richieste con vLLM, una libreria di inferenza di riferimento.
Metriche di prestazioni attribuite ad Anthropic
Dati misurati con Llama 4 Maverick (400 miliardi di parametri, pesi a 4 bit) su una GPU H100.
| Misura | Valore |
|---|---|
| Dimensione di ogni prova | 18,78 MB per richiesta di 1.024 token |
| Verifica di una prova (CPU) | 17 s con 24 thread; 21 s con 1 thread |
| Velocità di generazione (prefill) | 110 token/s su una H100 |
| Costo aggiuntivo rispetto a vLLM | Tra 70 e 95 volte il tempo GPU |
| Fase preliminare (impegno) | Circa 39 minuti; valido per ~16 milioni di richieste |
Limitazioni e ambito della verifica
FlashProve verifica una versione intera e quantizzata a 4 bit di Llama 4 Maverick. La prova presuppone un metodo di generazione che seleziona il token con il punteggio più alto a ogni passo (decodifica avida). Un'implementazione che utilizzi calcoli in virgola mobile o selezioni tra più opzioni mediante campionamento può produrre un risultato diverso da quello verificato.
Il prototipo ammette contesti fino a 1.024 token e genera le prove dopo che il testo è stato prodotto. Nel test pubblicato, una prova non copriva da sola tutti i token di una risposta. Inoltre, la verifica non determina se il contenuto è vero, sicuro o appropriato; certifica solo che il modello impegnato ha prodotto quei token di output.
Limiti dichiarati da Anthropic
Vincoli tecnici e di ambito del prototipo FlashProve.
| Limite | Implicazione |
|---|---|
| Solo decodifica avida | Una risposta in virgola mobile o con campionamento può non corrispondere |
| Solo mixture of experts (MoE) | Il sistema sfrutta quella struttura; l'architettura non è nascosta |
| Contesti fino a 1.024 token | Breve rispetto ai centinaia di migliaia di token dei modelli all'avanguardia |
| Canali laterali | Il tempo di generazione potrebbe rivelare informazioni; resta fuori dall'ambito |
| Codice rapido senza garanzia formale | Non è garantito che il codice C++, il report e Lean coincidano completamente |
Implicazioni per la fiducia e la conformità
Anthropic ha formalizzato le proprietà di sicurezza del protocollo con Lean, uno strumento per verificare dimostrazioni matematiche. L'azienda avverte che tale garanzia non si estende automaticamente al codice eseguibile rapido: non assicura che il codice, il report e la versione formale coincidano completamente. I possibili canali laterali, come il tempo impiegato per generare una prova, restano fuori dall'ambito dichiarato.
L'uso di Claude per costruire strumenti di verifica era già presente in un altro lavoro di Anthropic. Lì, le dimostrazioni si concentravano su proprietà di parti di librerie software; FlashProve affronta il calcolo associato all'output di un modello. L'azienda ritiene che questo progresso abbia implicazioni significative per la sicurezza, il ritmo di sviluppo dell'IA e la facilitazione di strumenti per auditor e regolatori, sebbene al momento resti un progetto di ricerca.
Continua a esplorare
Fonti consultate
Correzioni e trasparenza
Se trovi un dato errato o non aggiornato, inviaci la pagina e la fonte da verificare.
Proponi una correzione