El problema de la confianza en los servicios de IA
Cuando un usuario interactúa con un modelo de inteligencia artificial, no existe actualmente una forma directa de confirmar que la respuesta provenga del modelo específico que el proveedor anuncia. Esta brecha de confianza se agrava en entornos donde los servicios de enrutamiento podrían sustituir un modelo costoso por uno más barato para reducir gastos, o donde un atacante podría manipular el flujo de tokens sin que el usuario lo detecte.
La calidad de la respuesta por sí sola no garantiza su origen. Un modelo puede generar salidas coherentes y de alta calidad, pero eso no impide que un sistema de enrutamiento haya utilizado un modelo diferente al prometido. FlashProve busca cerrar esta brecha ofreciendo una verificación matemática que vincule la respuesta con el modelo comprometido, permitiendo a los usuarios y auditores comprobar la legitimidad de la salida sin necesidad de acceder a los recursos computacionales del proveedor.
Mecanismo técnico: pruebas de conocimiento cero
FlashProve se basa en un tipo de prueba criptográfica conocida como zkSNARK (zero-knowledge succinct argument of knowledge). Este sistema permite a un proveedor demostrar que un cálculo se ejecutó correctamente sin revelar los datos privados que intervinieron en el proceso. En este caso, la prueba vincula un conjunto de pesos previamente comprometido con los tokens generados ante un prompt determinado.
El proceso se divide en dos etapas. Primero, el proveedor realiza un compromiso criptográfico fuera de línea con un conjunto específico de pesos; este compromiso ocupa alrededor de 6,5 MB y su generación tarda unos 39 minutos. Después, para cada inferencia, el sistema construye una prueba sucinta que confirma que el modelo comprometido produjo la salida declarada. La privacidad de los componentes internos, como los pesos y las activaciones, se mantiene intacta durante la verificación.
Flujo de verificación en FlashProve
- 01El proveedor genera un compromiso criptográfico de los pesos del modelo (fase offline).
- 02El usuario envía un prompt y recibe la respuesta junto con una prueba criptográfica.
- 03El usuario verifica la prueba en su CPU local sin necesidad de acceder a los pesos del modelo.
- 04La verificación confirma que el modelo comprometido generó los tokens declarados.
Rendimiento y costos computacionales
Anthropic evaluó el prototipo utilizando Llama 4 Maverick, un modelo de mezcla de expertos con 400.700 millones de parámetros cuantizado a 4 bits. En una sola GPU H100 de NVIDIA, el sistema alcanzó aproximadamente 110 tokens por segundo en la etapa de prefill. Cada solicitud de 1.024 tokens produjo una prueba de alrededor de 19 MB, verificable en una CPU estándar en entre 17 y 21 segundos.
Sin embargo, el costo de generar estas pruebas sigue siendo elevado. Anthropic estimó que producir una prueba requiere entre 70 y 95 veces más tiempo de GPU que una inferencia estándar realizada con la librería vLLM. Esta sobrecarga computacional mantiene el proyecto en una fase de investigación intermedia, ya que no es económicamente viable para la verificación de cada interacción en servicios masivos.
Métricas de rendimiento de FlashProve
| Métrica | Valor | Contexto |
|---|---|---|
| Modelo evaluado | Llama 4 Maverick (400B parámetros, 4-bit) | Mezcla de expertos (MoE) |
| Velocidad de generación de pruebas | ~110 tokens/segundo | En una GPU H100 |
| Tamaño de la prueba | ~19 MB | Por solicitud de 1.024 tokens |
| Tiempo de verificación | 17-21 segundos | En CPU (24 hilos o 1 hilo) |
| Sobrecarga computacional | 70-95x | Comparado con inferencia estándar en vLLM |
Garantías formales y verificación con Lean
Para abordar la fragilidad inherente al código criptográfico, el equipo de Anthropic utilizó Lean, un asistente de pruebas formales, para especificar y verificar las propiedades de seguridad del sistema. Las propiedades verificadas incluyen la completitud (una prueba honesta es aceptada), la solidez (una prueba falsa no puede ser aceptada) y el conocimiento cero (la prueba no revela información sobre los pesos).
Esta verificación formal no sustituye las pruebas de rendimiento ni resuelve el costo computacional, pero ofrece una base matemática rigurosa para las garantías de seguridad. El equipo afirma que las propiedades formales fueron verificadas por máquina, lo que reduce la dependencia de inspecciones informales del código. No obstante, la correspondencia entre el código ejecutable y el protocolo formalizado sigue requiriendo auditoría manual.
Aplicaciones potenciales y límites actuales
FlashProve tiene aplicaciones en la detección de manipulación, la trazabilidad del texto y el cumplimiento regulatorio. Por ejemplo, un regulador podría exigir pruebas para verificar que un proveedor está sirviendo solo modelos aprobados como seguros. También podría utilizarse para demostrar que un modelo específico realizó un análisis de vulnerabilidades en un código fuente.
Sin embargo, el prototipo tiene límites claros. La evaluación se realizó con un modelo específico (Llama 4 Maverick) y una configuración de hardware concreta (una GPU H100). No se puede concluir que el rendimiento sea comparable en otros modelos o configuraciones. Además, el sistema no detecta todas las posibles intervenciones en la cadena de servicio, sino que se centra en probar que el modelo comprometido generó los tokens declarados. La reducción del costo de generación y la optimización del tamaño de las pruebas serán pasos necesarios antes de un uso generalizado.
Continúa explorando
Correcciones y transparencia
Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.
Proponer una corrección