FlashProve: Anthropic apresenta protótipo para verificar criptograficamente a origem de respostas de IA
Imagem gerada pela Equipa Editorial da Inferama
01

O problema de confiança na inferência de modelos

Os usuários atuais não podem verificar de forma confiável se uma resposta provém do modelo que pretendiam consultar. Um serviço de roteamento poderia substituir o modelo por um mais barato por razões de custo, ou um atacante poderia manipular o fluxo de tokens. A qualidade da saída não garante a identidade do modelo que a gerou, o que apresenta riscos para avaliadores independentes, clientes corporativos e reguladores.

A Anthropic identifica essa lacuna de confiança como um obstáculo para a adoção segura da IA. O objetivo da inferência demonstrável é permitir que um usuário com recursos limitados verifique que uma resposta provém do modelo solicitado, sem necessidade de acessar os pesos privados nem de executar o modelo localmente.

02

Mecânica das provas zkSNARK no FlashProve

O FlashProve se baseia em zkSNARKs, argumentos de conhecimento zero e concisos. O provedor do modelo publica primeiro um compromisso criptográfico, uma digital curta dos pesos do modelo. Em seguida, para cada resposta, gera uma prova que demonstra que o modelo comprometido produziu aqueles tokens específicos a partir do prompt dado.

A prova cumpre quatro propriedades-chave: completude (uma prova honesta é aceita), sonoridade (é impossível falsificar uma prova para uma afirmação falsa), conhecimento zero (não revela os pesos nem os valores intermediários) e sucintude (a verificação é rápida e barata). O sistema não oculta a arquitetura do modelo, apenas os pesos.

Propriedades das provas no FlashProve

PropriedadeDescrição
CompletudeO verificador aceita a prova se o modelo comprometido gerou a resposta.
SonoridadeNão é possível gerar uma prova válida para uma resposta que não provém do modelo comprometido.
Conhecimento zeroA prova não revela os pesos do modelo nem quais especialistas foram ativados em cada camada.
SucintudeA verificação requer segundos em uma CPU padrão, sem necessidade de GPU.
03

Desempenho e métricas reportadas

A Anthropic avaliou o FlashProve com o Llama 4 Maverick, um modelo de 400 bilhões de parâmetros com arquitetura de mistura de especialistas, quantizado em 4 bits. Em uma única GPU H100, o sistema gera provas a um ritmo de 110 tokens por segundo. O tamanho da prova é de aproximadamente 19 MB por solicitação de 1.024 tokens.

A verificação de uma prova leva cerca de 17 segundos em uma CPU de 24 núcleos. O custo de geração da prova é de 70 a 95 vezes o tempo de GPU que a inferência padrão leva no vLLM. Essas métricas são específicas da configuração testada e não constituem uma garantia de desempenho em outros ambientes.

Métricas de desempenho do FlashProve

MétricaValor reportadoCondições
Velocidade de geração110 tokens/sGPU H100, Llama 4 Maverick 4-bit
Tamanho da prova~19 MBPor solicitação de 1.024 tokens
Tempo de verificação~17 segundosCPU de 24 núcleos
Sobrecusto de GPU70-95xComparado com inferência vLLM
04

Artefatos publicados e verificação formal

A Anthropic publicou cinco artefatos sob a licença Apache 2.0: a publicação de pesquisa, um relatório técnico, uma especificação de protocolo, código executável (provador e verificadores) e provas formais em Lean. O código inclui um verificador rápido em C++ e um verificador formalmente correto em Lean.

Para garantir a confiança no código, a equipe utilizou verificação formal com o assistente de provas Lean. As propriedades de completude, sonoridade e conhecimento zero foram demonstradas matematicamente. No entanto, a verificação formal não elimina a necessidade de auditar se o código executável coincide com a especificação formal, uma tarefa que requer revisão humana ou agêntica.

05

Limitações e escopo atual do protótipo

O FlashProve é um protótipo de pesquisa, não um produto implantado. O sistema está limitado a modelos de mistura de especialistas e assume uma decodificação gulosa (seleção do token mais provável). O contexto máximo testado é de 1.024 tokens, o que restringe sua aplicabilidade a conversas longas.

A prova é gerada de forma posterior à inferência (post-hoc), o que significa que não previne a manipulação em tempo real, mas permite detectá-la depois. Além disso, o compromisso de pesos é válido para aproximadamente 16 milhões de solicitações, após o qual o provedor deve gerar um novo compromisso. Não há data confirmada para um lançamento comercial.

06

Continue a explorar

Fontes consultadas

03

Correções e transparência

Se encontrar informação incorreta ou desatualizada, envie-nos a página e a fonte que devemos rever.

Propor uma correção