FlashProve: Anthropic apresenta protótipo para verificar respostas de IA sem revelar os pesos do modelo
Imagem gerada pela Equipa Editorial da Inferama
01

O problema de confiança nos serviços de IA

Quando um usuário interage com um modelo de inteligência artificial, não existe atualmente uma forma direta de confirmar que a resposta provém do modelo específico anunciado pelo provedor. Essa lacuna de confiança se agrava em ambientes onde serviços de roteamento podem substituir um modelo caro por um mais barato para reduzir custos, ou onde um atacante pode manipular o fluxo de tokens sem que o usuário detecte.

A qualidade da resposta por si só não garante sua origem. Um modelo pode gerar saídas coerentes e de alta qualidade, mas isso não impede que um sistema de roteamento tenha utilizado um modelo diferente do prometido. O FlashProve busca fechar essa lacuna oferecendo uma verificação matemática que vincule a resposta ao modelo comprometido, permitindo que usuários e auditores verifiquem a legitimidade da saída sem necessidade de acessar os recursos computacionais do provedor.

02

Mecanismo técnico: provas de conhecimento zero

O FlashProve se baseia em um tipo de prova criptográfica conhecida como zkSNARK (zero-knowledge succinct argument of knowledge). Este sistema permite que um provedor demonstre que um cálculo foi executado corretamente sem revelar os dados privados que intervieram no processo. Neste caso, a prova vincula um conjunto de pesos previamente comprometido aos tokens gerados em resposta a um prompt determinado.

O processo se divide em duas etapas. Primeiro, o provedor realiza um compromisso criptográfico offline com um conjunto específico de pesos; esse compromisso ocupa cerca de 6,5 MB e sua geração leva cerca de 39 minutos. Depois, para cada inferência, o sistema constrói uma prova concisa que confirma que o modelo comprometido produziu a saída declarada. A privacidade dos componentes internos, como os pesos e as ativações, permanece intacta durante a verificação.

Fluxo de verificação no FlashProve

  1. 01O provedor gera um compromisso criptográfico dos pesos do modelo (fase offline).
  2. 02O usuário envia um prompt e recebe a resposta junto com uma prova criptográfica.
  3. 03O usuário verifica a prova em sua CPU local sem necessidade de acessar os pesos do modelo.
  4. 04A verificação confirma que o modelo comprometido gerou os tokens declarados.
03

Desempenho e custos computacionais

A Anthropic avaliou o protótipo utilizando o Llama 4 Maverick, um modelo de mistura de especialistas com 400,7 bilhões de parâmetros quantizado em 4 bits. Em uma única GPU H100 da NVIDIA, o sistema alcançou aproximadamente 110 tokens por segundo na etapa de prefill. Cada solicitação de 1.024 tokens produziu uma prova de cerca de 19 MB, verificável em uma CPU padrão em entre 17 e 21 segundos.

No entanto, o custo de gerar essas provas continua elevado. A Anthropic estimou que produzir uma prova requer entre 70 e 95 vezes mais tempo de GPU do que uma inferência padrão realizada com a biblioteca vLLM. Essa sobrecarga computacional mantém o projeto em uma fase de pesquisa intermediária, já que não é economicamente viável para a verificação de cada interação em serviços em massa.

Métricas de desempenho do FlashProve

MétricaValorContexto
Modelo avaliadoLlama 4 Maverick (400B parâmetros, 4-bit)Mistura de especialistas (MoE)
Velocidade de geração de provas~110 tokens/segundoEm uma GPU H100
Tamanho da prova~19 MBPor solicitação de 1.024 tokens
Tempo de verificação17-21 segundosEm CPU (24 threads ou 1 thread)
Sobrecarga computacional70-95xComparado com inferência padrão no vLLM
04

Garantias formais e verificação com Lean

Para abordar a fragilidade inerente ao código criptográfico, a equipe da Anthropic utilizou o Lean, um assistente de provas formais, para especificar e verificar as propriedades de segurança do sistema. As propriedades verificadas incluem a completude (uma prova honesta é aceita), a solidez (uma prova falsa não pode ser aceita) e o conhecimento zero (a prova não revela informações sobre os pesos).

Essa verificação formal não substitui os testes de desempenho nem resolve o custo computacional, mas oferece uma base matemática rigorosa para as garantias de segurança. A equipe afirma que as propriedades formais foram verificadas por máquina, o que reduz a dependência de inspeções informais do código. No entanto, a correspondência entre o código executável e o protocolo formalizado ainda requer auditoria manual.

05

Aplicações potenciais e limites atuais

O FlashProve tem aplicações na detecção de manipulação, na rastreabilidade do texto e no cumprimento regulatório. Por exemplo, um regulador poderia exigir provas para verificar que um provedor está servindo apenas modelos aprovados como seguros. Também poderia ser utilizado para demonstrar que um modelo específico realizou uma análise de vulnerabilidades em um código-fonte.

No entanto, o protótipo tem limites claros. A avaliação foi realizada com um modelo específico (Llama 4 Maverick) e uma configuração de hardware concreta (uma GPU H100). Não se pode concluir que o desempenho seja comparável em outros modelos ou configurações. Além disso, o sistema não detecta todas as possíveis intervenções na cadeia de serviço, mas se concentra em provar que o modelo comprometido gerou os tokens declarados. A redução do custo de geração e a otimização do tamanho das provas serão passos necessários antes de um uso generalizado.

06

Continue a explorar

Fontes consultadas

03

Correções e transparência

Se encontrar informação incorreta ou desatualizada, envie-nos a página e a fonte que devemos rever.

Propor uma correção