Présentation de FlashProve et son objectif
Anthropic a publié le 2 novembre 2026 FlashProve, un prototype de recherche open source sous licence Apache 2.0. Le système permet de vérifier cryptographiquement si un jeton d'une réponse correspond à la sortie d'un modèle d'intelligence artificielle préalablement engagé, sans que l'utilisateur n'ait besoin d'accéder aux poids du modèle.
L'objectif principal est de résoudre le problème de la substitution de modèles par des intermédiaires. Selon Anthropic, un utilisateur ne peut actuellement pas vérifier avec certitude qu'une réponse provient du modèle sélectionné et non d'un modèle moins coûteux ou manipulé. L'outil vise à aider les évaluateurs indépendants, les clients d'entreprise et les régulateurs à garantir l'intégrité des jetons générés.
Mécanisme technique : preuves à connaissance nulle
Le système repose sur l'inférence démontrable via un objet cryptographique connu sous le nom de zkSNARK (zero-knowledge succinct argument of knowledge). Ce mécanisme permet à un fournisseur de modèle d'envoyer, avec la réponse, une preuve courte que l'utilisateur peut vérifier rapidement sur son propre appareil.
Le processus commence par un engagement cryptographique : le fournisseur fixe une empreinte des poids du modèle sans les révéler. Ensuite, pour chaque requête, il génère une preuve reliant cette empreinte à l'entrée et à un jeton de sortie. La technique protège les informations confidentielles, bien que l'architecture du modèle ne soit pas masquée. La vérification s'effectue avec des ressources de calcul limitées, sans GPU côté client.
Flux de vérification dans FlashProve
- 01Le fournisseur publie un engagement cryptographique sur les poids du modèle (une fois par modèle).
- 02L'utilisateur envoie une requête au modèle via le fournisseur.
- 03Le fournisseur génère la réponse et une preuve cryptographique (zkSNARK) associée à un jeton de sortie.
- 04L'utilisateur reçoit la réponse et la preuve.
- 05L'utilisateur vérifie la preuve localement en utilisant l'engagement, l'entrée et le jeton, sans accéder aux poids.
Performances et conditions expérimentales
Pour la démonstration, Anthropic a utilisé une version de Llama 4 Maverick de Meta, quantifiée sur 4 bits. L'équipe a traité des lots de 24 requêtes avec des fenêtres de 1 024 jetons sur un GPU Nvidia H100 et un serveur avec 24 cœurs CPU. Selon l'entreprise, chaque preuve a vérifié un seul jeton de sortie et occupait environ 19 Mo.
La vérification d'une preuve a pris 17 secondes avec 24 threads CPU ou 21 secondes avec un seul thread. Le chiffre de 110 jetons par seconde correspond au traitement des contextes dans cet essai, non à la vérification individuelle de chaque jeton de réponse. La génération des preuves a exigé entre 70 et 95 fois plus de temps GPU que le traitement des mêmes requêtes avec vLLM, une bibliothèque d'inférence de référence.
Métriques de performance attribuées à Anthropic
Données mesurées avec Llama 4 Maverick (400 milliards de paramètres, poids sur 4 bits) sur un GPU H100.
| Mesure | Valeur |
|---|---|
| Taille de chaque preuve | 18,78 Mo par requête de 1 024 jetons |
| Vérification d'une preuve (CPU) | 17 s avec 24 threads ; 21 s avec 1 thread |
| Vitesse de génération (préremplissage) | 110 jetons/s sur un H100 |
| Surcoût par rapport à vLLM | Entre 70 et 95 fois le temps GPU |
| Phase préliminaire (engagement) | Environ 39 minutes ; valide pour ~16 millions de requêtes |
Limites et portée de la vérification
FlashProve vérifie une version entière et quantifiée sur 4 bits de Llama 4 Maverick. La preuve suppose une méthode de génération qui choisit le jeton avec le score le plus élevé à chaque étape (décodage glouton). Une implémentation utilisant des calculs en virgule flottante ou sélectionnant parmi plusieurs options par échantillonnage peut produire un résultat différent de celui vérifié.
Le prototype accepte des contextes d'au plus 1 024 jetons et génère les preuves après la production du texte. Dans l'essai publié, une preuve ne couvrait pas à elle seule tous les jetons d'une réponse. De plus, la vérification ne détermine pas si le contenu est vrai, sûr ou approprié ; elle ne certifie que le modèle engagé a produit ces jetons de sortie.
Limites déclarées par Anthropic
Contraintes techniques et de portée du prototype FlashProve.
| Limite | Implication |
|---|---|
| Uniquement le décodage glouton | Une réponse en virgule flottante ou avec échantillonnage peut ne plus correspondre |
| Uniquement le mélange d'experts (MoE) | Le système exploite cette structure ; l'architecture n'est pas masquée |
| Contextes d'au plus 1 024 jetons | Court par rapport aux centaines de milliers de jetons des modèles de pointe |
| Canaux latéraux | Le temps de génération pourrait révéler des informations ; hors du périmètre |
| Code rapide sans garantie formelle | Non garanti que le code C++, le rapport et Lean coïncident entièrement |
Implications pour la confiance et la conformité
Anthropic a formalisé les propriétés de sécurité du protocole avec Lean, un outil pour vérifier des démonstrations mathématiques. L'entreprise avertit que cette garantie ne s'étend pas automatiquement au code exécutable rapide : elle n'assure pas que le code, le rapport et la version formelle coïncident entièrement. Les canaux latéraux possibles, comme le temps de génération d'une preuve, restent hors du périmètre déclaré.
L'utilisation de Claude pour construire des outils de vérification apparaissait déjà dans un autre travail d'Anthropic. Là, les démonstrations se concentraient sur les propriétés de parties de bibliothèques logicielles ; FlashProve aborde le calcul associé à la sortie d'un modèle. L'entreprise estime que cette avancée a des implications significatives pour la sécurité, le rythme de développement de l'IA et la facilitation d'outils pour les auditeurs et régulateurs, bien qu'il s'agisse pour l'instant d'un projet de recherche.
Poursuivre l’exploration
Sources consultées
Corrections et transparence
Si vous repérez une information incorrecte ou obsolète, envoyez-nous la page et la source à vérifier.
Proposer une correction