Le problème de confiance dans l'inférence des modèles
Les utilisateurs actuels ne peuvent pas vérifier de manière fiable si une réponse provient du modèle qu'ils souhaitaient consulter. Un service de routage pourrait remplacer le modèle par un moins coûteux pour des raisons économiques, ou un attaquant pourrait manipuler le flux de jetons. La qualité de la sortie ne garantit pas l'identité du modèle qui l'a générée, ce qui pose des risques pour les évaluateurs indépendants, les clients d'entreprise et les régulateurs.
Anthropic identifie ce vide de confiance comme un obstacle à l'adoption sécurisée de l'IA. L'objectif de l'inférence démontrable est de permettre à un utilisateur aux ressources limitées de vérifier qu'une réponse provient du modèle demandé, sans avoir besoin d'accéder aux poids privés ni d'exécuter le modèle localement.
Mécanique des preuves zkSNARK dans FlashProve
FlashProve repose sur les zkSNARKs, des arguments de connaissance zéro et concis. Le fournisseur du modèle publie d'abord un engagement cryptographique, une empreinte numérique courte des poids du modèle. Ensuite, pour chaque réponse, il génère une preuve démontrant que le modèle engagé a produit ces jetons spécifiques à partir du prompt donné.
La preuve satisfait quatre propriétés clés : complétude (une preuve honnête est acceptée), sonorité (il est impossible de falsifier une preuve pour une affirmation fausse), connaissance zéro (elle ne révèle ni les poids ni les valeurs intermédiaires) et concision (la vérification est rapide et peu coûteuse). Le système ne masque pas l'architecture du modèle, uniquement les poids.
Propriétés des preuves dans FlashProve
| Propriété | Description |
|---|---|
| Complétude | Le vérificateur accepte la preuve si le modèle engagé a généré la réponse. |
| Sonorité | Il n'est pas possible de générer une preuve valide pour une réponse qui ne provient pas du modèle engagé. |
| Connaissance zéro | La preuve ne révèle pas les poids du modèle ni les experts activés à chaque couche. |
| Concision | La vérification nécessite quelques secondes sur un CPU standard, sans GPU. |
Performances et métriques rapportées
Anthropic a évalué FlashProve avec Llama 4 Maverick, un modèle de 400 milliards de paramètres avec une architecture de mélange d'experts, quantifié sur 4 bits. Sur un seul GPU H100, le système génère des preuves à un rythme de 110 jetons par seconde. La taille de la preuve est d'environ 19 Mo par requête de 1 024 jetons.
La vérification d'une preuve prend environ 17 secondes sur un CPU à 24 cœurs. Le coût de génération de la preuve est de 70 à 95 fois le temps GPU de l'inférence standard dans vLLM. Ces métriques sont spécifiques à la configuration testée et ne constituent pas une garantie de performance dans d'autres environnements.
Métriques de performance de FlashProve
| Métrique | Valeur rapportée | Conditions |
|---|---|---|
| Vitesse de génération | 110 jetons/s | GPU H100, Llama 4 Maverick 4 bits |
| Taille de la preuve | ~19 Mo | Par requête de 1 024 jetons |
| Temps de vérification | ~17 secondes | CPU à 24 cœurs |
| Surcoût GPU | 70-95x | Comparé à l'inférence vLLM |
Artefacts publiés et vérification formelle
Anthropic a publié cinq artefacts sous licence Apache 2.0 : la publication de recherche, un rapport technique, une spécification de protocole, du code exécutable (démonstrateur et vérificateurs) et des preuves formelles en Lean. Le code inclut un vérificateur rapide en C++ et un vérificateur formellement correct en Lean.
Pour garantir la confiance dans le code, l'équipe a utilisé la vérification formelle avec l'assistant de preuve Lean. Les propriétés de complétude, de sonorité et de connaissance zéro ont été démontrées mathématiquement. Cependant, la vérification formelle n'élimine pas le besoin d'auditer que le code exécutable correspond à la spécification formelle, une tâche qui nécessite une révision humaine ou agentique.
Limites et portée actuelle du prototype
FlashProve est un prototype de recherche, non un produit déployé. Le système est limité aux modèles de mélange d'experts et suppose un décodage glouton (sélection du jeton le plus probable). Le contexte maximal testé est de 1 024 jetons, ce qui restreint son applicabilité aux conversations longues.
La preuve est générée a posteriori (post-hoc), ce qui signifie qu'elle ne prévient pas la manipulation en temps réel, mais permet de la détecter après coup. De plus, l'engagement des poids est valide pour environ 16 millions de requêtes, après quoi le fournisseur doit générer un nouvel engagement. Aucune date n'est confirmée pour un lancement commercial.
Poursuivre l’exploration
Sources consultées
Corrections et transparence
Si vous repérez une information incorrecte ou obsolète, envoyez-nous la page et la source à vérifier.
Proposer une correction