Anthropic publie FlashProve en open source, un outil pour l’inférence prouvable
Anthropic a publié un prototype de protocole cryptographique ouvert, FlashProve, qui permet de vérifier une réponse de modèle sans accès aux poids du modèle.
Anthropic a publié FlashProve en open source, un outil pour l’inférence prouvable.
Il s’agit essentiellement d’un prototype de protocole cryptographique ouvert permettant à tout vérificateur, sans accès aux poids du modèle, de confirmer que la réponse a été générée par le modèle exact annoncé par le fournisseur.
Une telle fonctionnalité est utile, par exemple, pour vérifier qu’un service de routage ne remplace pas un modèle par un modèle moins coûteux, ou qu’un modèle dans un environnement d’entreprise n’a pas été substitué par des attaquants.
Le mécanisme fonctionne ainsi : le fournisseur publie à l’avance une empreinte numérique de ses poids, puis joint un fichier de preuve à chaque réponse. La correspondance entre ce fichier et l’empreinte confirme l’authenticité du modèle, et la vérification peut s’effectuer sur un ordinateur ordinaire, sans GPU ni poids. La preuve pèse environ 19 Mo par requête de 1024 tokens, et la vérification prend environ 17 secondes. Cela reste bien plus coûteux que l’inférence normale, mais, à titre de comparaison, le résultat précédent exigeait environ 14 heures de vérification et une preuve de 93 Go.
L’algorithme repose sur les zkSNARK. Cette méthode est connue depuis longtemps, mais le mérite d’Anthropic est d’avoir réussi à l’optimiser jusqu’à des vitesses pratiques pour des modèles pouvant atteindre 400B paramètres. Dans l’article de recherche d’Anthropic, il est indiqué que Claude a principalement travaillé sur l’accélération et l’optimisation.
Cela pourrait être un pas vers des détecteurs d’origine des textes.
Pourquoi c'est important
AnalyseL’inférence prouvable peut rendre le routage des modèles et les déploiements en entreprise auditable, en réduisant le risque de substitution silencieuse de modèle.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Anthropic présente FlashProve pour une inférence IA démontrable
Anthropic a présenté FlashProve, un prototype permettant de prouver mathématiquement qu'une réponse a été générée par un modèle d'IA spécifique, sans révéler les poids du modèle.
AI Radar : GPT-6.1 Terra, Gemini 4 Carbon, Mistral Large 4 et changements tarifaires d’OpenAI et d’Anthropic
Tour d’horizon des actualités IA : nouveaux modèles LLM, changements d’abonnements OpenAI et Anthropic, modèles de monde, générateurs vidéo et détails d’entreprise.
Claude Haiku (Modèles compacts et rapides d'Anthropic)
Le modèle le plus compact et le plus rapide de la gamme Anthropic. Conçu pour des réponses ultra-rapides, la classification massive de textes, l'extraction de données et le routage agentique à un coût minimal.
Claude Opus (Modèle d'intelligence phare d'Anthropic)
Le modèle le plus puissant de la famille Anthropic. Conçu pour l'analyse philosophique et scientifique complexe, la rédaction de textes multicouches et une compréhension approfondie du contexte.