Anthropic lança FlashProve em open source, ferramenta para inferência comprovável
A Anthropic publicou um protótipo de protocolo criptográfico aberto chamado FlashProve que permite verificar uma resposta de modelo sem acesso aos pesos do modelo.
A Anthropic lançou o FlashProve em open source, uma ferramenta para inferência comprovável.
Na essência, trata-se de um protótipo de protocolo criptográfico aberto pelo qual qualquer verificador, sem acesso aos pesos do modelo, pode confirmar que a resposta foi gerada exatamente pelo modelo declarado pelo provedor.
Esse recurso é útil, por exemplo, para verificar se um serviço de roteamento não está substituindo um modelo por outro mais barato, ou se um modelo em um ambiente corporativo não foi trocado por atacantes.
O mecanismo funciona assim: o provedor publica previamente uma impressão digital de seus pesos e, em seguida, anexa um arquivo de prova a cada resposta. A correspondência entre esse arquivo e a impressão digital confirma a autenticidade do modelo, e a verificação pode ser feita em um computador comum, sem GPU e sem os pesos. A prova tem cerca de 19 MB por solicitação de 1024 tokens, e a verificação leva cerca de 17 segundos. Isso ainda é muito mais caro do que a inferência comum, mas, para comparação, o resultado anterior exigia cerca de 14 horas de verificação e uma prova de 93 GB.
O algoritmo é baseado em zkSNARKs. O método é conhecido há bastante tempo, mas o mérito da Anthropic está em ter conseguido otimizar o processo para velocidades práticas em modelos de até 400B de parâmetros. No artigo de pesquisa da Anthropic, é dito que o Claude trabalhou principalmente na aceleração e na otimização.
Talvez isso seja um passo em direção a detectores de origem de textos.
Por que isso importa
AnáliseA inferência comprovável pode tornar auditável o roteamento de modelos e os deployments corporativos, reduzindo o risco de substituição silenciosa de modelos.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Anthropic apresenta FlashProve para inferência comprovável de IA
A Anthropic apresentou o FlashProve, um protótipo que permite provar matematicamente que uma resposta foi gerada por um modelo específico de IA sem revelar os pesos do modelo.
AI Radar: GPT-6.1 Terra, Gemini 4 Carbon, Mistral Large 4 e mudanças de preços da OpenAI e da Anthropic
Resumo das novidades de IA: novos modelos LLM, mudanças nas assinaturas da OpenAI e da Anthropic, world models, geradores de vídeo e detalhes corporativos.
Claude Haiku (Modelos compactos e rápidos da Anthropic)
O modelo mais compacto e rápido da linha Anthropic. Projetado para respostas instantâneas, classificação de texto em massa, extração de dados e roteamento de agentes com custo mínimo.
Claude Opus (Modelo Inteligente Flagship da Anthropic)
O modelo mais poderoso e robusto da família Anthropic. Projetado para análise filosófica e científica complexa, redação de textos multifacetados e compreensão profunda do contexto.