FlashProve: Anthropic presenta un prototipo para verificar criptográficamente la procedencia de respuestas de IA
Imagen generada por el Equipo Editorial de Inferama
01

El problema de confianza en la inferencia de modelos

Los usuarios actuales no pueden verificar de forma fiable si una respuesta proviene del modelo que pretendían consultar. Un servicio de enrutamiento podría sustituir el modelo por uno más barato por razones de coste, o un atacante podría manipular el flujo de tokens. La calidad de la salida no garantiza la identidad del modelo que la generó, lo que plantea riesgos para evaluadores independientes, clientes corporativos y reguladores.

Anthropic identifica este vacío de confianza como un obstáculo para la adopción segura de la IA. El objetivo de la inferencia demostrable es permitir que un usuario con recursos limitados verifique que una respuesta provino del modelo solicitado, sin necesidad de acceder a los pesos privados ni de ejecutar el modelo localmente.

La separación entre la generación del texto y la validación de su origen crea una asimetría de información que dificulta la auditoría técnica. Los evaluadores externos dependen actualmente de la buena fe del proveedor para confirmar que el modelo utilizado corresponde al especificado en el contrato o la solicitud. Esta falta de mecanismos criptográficos de verificación impide que los clientes corporativos y los reguladores auditen de manera autónoma la procedencia de las respuestas en entornos de producción.

El concepto de inferencia demostrable busca cerrar esta brecha permitiendo que un verificador independiente confirme la identidad del modelo sin requerir acceso a la infraestructura interna del proveedor. Este enfoque es particularmente relevante para escenarios donde la trazabilidad del modelo es un requisito de cumplimiento normativo o de seguridad operativa, ya que transfiere la carga de la prueba al proveedor y la capacidad de verificación al usuario final.

02

Mecánica de las pruebas zkSNARK en FlashProve

FlashProve se basa en zkSNARKs, argumentos de conocimiento cero y concisos. El proveedor del modelo publica primero un compromiso criptográfico, una huella digital corta de los pesos del modelo. Luego, para cada respuesta, genera una prueba que demuestra que el modelo comprometido produjo esos tokens específicos a partir del prompt dado.

La prueba cumple cuatro propiedades clave: completitud (una prueba honesta se acepta), sonidez (es imposible falsificar una prueba para una afirmación falsa), conocimiento cero (no revela los pesos ni los valores intermedios) y sucintitud (la verificación es rápida y barata). El sistema no oculta la arquitectura del modelo, solo los pesos.

El compromiso criptográfico inicial actúa como un ancla de identidad que vincula los pesos específicos del modelo con las pruebas generadas posteriormente. Al publicar esta huella digital, el proveedor establece un punto de referencia inmutable contra el cual se contrasta cada solicitud. Este mecanismo asegura que cualquier intento de sustituir el modelo por una versión diferente o modificada invalidará las pruebas generadas, ya que no corresponderán al compromiso original publicado.

La propiedad de conocimiento cero es fundamental para proteger la propiedad intelectual del proveedor. La prueba matemática permite al verificador confirmar que la respuesta fue generada por el modelo comprometido sin exponer los parámetros internos ni los estados intermedios de la red neuronal. Esto permite que la verificación sea pública y reproducible, manteniendo en secreto los activos tecnológicos del proveedor durante todo el proceso de inferencia.

Propiedades de las pruebas en FlashProve

PropiedadDescripción
CompletitudEl verificador acepta la prueba si el modelo comprometido generó la respuesta.
SonidezNo es posible generar una prueba válida para una respuesta que no provenga del modelo comprometido.
Conocimiento ceroLa prueba no revela los pesos del modelo ni qué expertos se activaron en cada capa.
SucintitudLa verificación requiere segundos en una CPU estándar, sin necesidad de GPU.
03

Rendimiento y métricas reportadas

Anthropic evaluó FlashProve con Llama 4 Maverick, un modelo de 400 mil millones de parámetros con arquitectura de mezcla de expertos, cuantizado a 4 bits. En una sola GPU H100, el sistema genera pruebas a un ritmo de 110 tokens por segundo. El tamaño de la prueba es de aproximadamente 19 MB por solicitud de 1.024 tokens.

La verificación de una prueba toma unos 17 segundos en una CPU de 24 núcleos. El coste de generación de la prueba es de 70 a 95 veces el tiempo de GPU que tarda la inferencia estándar en vLLM. Estas métricas son específicas de la configuración probada y no constituyen una garantía de rendimiento en otros entornos.

La cuantización a 4 bits del modelo Llama 4 Maverick reduce significativamente la memoria requerida para la generación de pruebas, facilitando su ejecución en hardware de consumo estándar. Esta optimización es crucial para que el sistema sea viable en entornos donde el acceso a clusters de GPU de alta gama es limitado. La velocidad de 110 tokens por segundo indica que la sobrecarga computacional de la generación de pruebas es manejable para aplicaciones que no requieren latencia extrema en la respuesta inicial.

El tamaño de la prueba de 19 MB por solicitud de 1.024 tokens representa un coste de almacenamiento y transmisión moderado en comparación con el tamaño de los modelos de lenguaje actuales. Esta concisión permite que las pruebas se integren en flujos de trabajo existentes sin requerir infraestructura de red especializada. La verificación en 17 segundos en una CPU estándar demuestra que el proceso de validación puede realizarse de forma asíncrona, sin bloquear la interacción del usuario con la aplicación.

Métricas de rendimiento de FlashProve

MétricaValor reportadoCondiciones
Velocidad de generación110 tokens/sGPU H100, Llama 4 Maverick 4-bit
Tamaño de prueba~19 MBPor solicitud de 1.024 tokens
Tiempo de verificación~17 segundosCPU de 24 núcleos
Sobrecoste de GPU70-95xComparado con inferencia vLLM
04

Artefactos publicados y verificación formal

Anthropic ha publicado cinco artefactos bajo la licencia Apache 2.0: la publicación de investigación, un informe técnico, una especificación de protocolo, código ejecutable (demostrador y verificadores) y pruebas formales en Lean. El código incluye un verificador rápido en C++ y un verificador formalmente correcto en Lean.

Para garantizar la confianza en el código, el equipo utilizó verificación formal con el asistente de pruebas Lean. Se demostraron matemáticamente las propiedades de completitud, sonidez y conocimiento cero. Sin embargo, la verificación formal no elimina la necesidad de auditar que el código ejecutable coincide con la especificación formal, una tarea que requiere revisión humana o agéntica.

La publicación bajo la licencia Apache 2.0 fomenta la colaboración abierta y permite a la comunidad técnica auditar, modificar y mejorar el código base. La inclusión de un verificador en C++ optimizado para rendimiento y otro en Lean centrado en la corrección formal ofrece una dualidad práctica: el primero sirve para la implementación en producción, mientras que el segundo actúa como una referencia matemática inmutable. Esta estructura facilita la transición de un prototipo de investigación a una herramienta de auditoría robusta.

La verificación formal en Lean proporciona una garantía matemática de que el protocolo cumple sus propiedades de seguridad teóricas. Sin embargo, la existencia de dos implementaciones distintas introduce un riesgo de divergencia que debe gestionarse mediante auditorías continuas. La revisión humana o agéntica del código ejecutable es necesaria para asegurar que la implementación práctica no contiene errores de traducción que comprometan la validez de las pruebas generadas en entornos reales.

05

Limitaciones y alcance actual del prototipo

FlashProve es un prototipo de investigación, no un producto desplegado. El sistema está limitado a modelos de mezcla de expertos y asume una decodificación greedy (selección del token más probable). El contexto máximo probado es de 1.024 tokens, lo que restringe su aplicabilidad a conversaciones largas.

La prueba se genera de forma posterior a la inferencia (post-hoc), lo que significa que no previene la manipulación en tiempo real, sino que permite detectarla después. Además, el compromiso de pesos es válido para aproximadamente 16 millones de solicitudes, tras lo cual el proveedor debe generar un nuevo compromiso. No hay fecha confirmada para un lanzamiento comercial.

La restricción a la decodificación greedy simplifica el modelo matemático de la prueba, ya que elimina la incertidumbre asociada a la muestreo aleatorio de tokens. Esta limitación hace que el sistema sea aplicable principalmente a tareas deterministas o a configuraciones donde la temperatura de muestreo es cero. Para aplicaciones creativas o conversacionales que dependen de la aleatoriedad, el sistema requeriría extensiones futuras que incorporen la entropía del proceso de generación en la prueba criptográfica.

La naturaleza post-hoc de la verificación implica que el usuario recibe la respuesta antes de poder confirmar su procedencia. Este diseño prioriza la latencia de la respuesta sobre la seguridad en tiempo real, asumiendo que la detección de manipulación es suficiente para la mayoría de los casos de uso. La validez del compromiso de pesos por 16 millones de solicitudes establece un ciclo de rotación que el proveedor debe gestionar, asegurando que las pruebas antiguas no se puedan reutilizar con un modelo modificado.

06

Continúa explorando

Fuentes consultadas

03

Correcciones y transparencia

Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.

Proponer una corrección