Anthropic lanza FlashProve en open source, una herramienta para inferencia demostrable
Anthropic publicó un prototipo de protocolo criptográfico abierto llamado FlashProve que permite verificar una respuesta de modelo sin acceso a los pesos del modelo.
Anthropic lanzó FlashProve en open source, una herramienta para inferencia demostrable.
En esencia, es un prototipo de protocolo criptográfico abierto que permite a cualquier verificador, sin acceso a los pesos del modelo, confirmar que la respuesta fue generada por el modelo exacto declarado por el proveedor.
Esto es útil, por ejemplo, para comprobar que un servicio de enrutamiento no sustituye un modelo por uno más barato, o que un modelo en el entorno de una empresa no ha sido reemplazado por atacantes.
El mecanismo funciona así: el proveedor publica de antemano una huella digital de sus pesos y, a cada respuesta, adjunta un archivo de prueba. La coincidencia entre ese archivo y la huella confirma la autenticidad del modelo, y la verificación puede realizarse en un ordenador normal sin GPU ni pesos. La prueba ocupa unos 19 MB por solicitud de 1024 tokens, y la verificación tarda unos 17 segundos. Sigue siendo bastante más caro que la inferencia normal, pero, en comparación, el resultado anterior requería unas 14 horas de verificación y una prueba de 93 GB.
El algoritmo se basa en zkSNARK. El método es conocido desde hace tiempo, pero el mérito de Anthropic consiste en haberlo optimizado hasta velocidades prácticas para modelos de hasta 400B de parámetros. En el artículo de Anthropic se indica que Claude trabajó principalmente en la aceleración y optimización.
Quizás esto sea un paso hacia los detectores de procedencia de textos.
Por qué es importante
AnálisisLa inferencia demostrable puede hacer auditable el enrutamiento de modelos y los despliegues empresariales, reduciendo el riesgo de sustitución silenciosa de modelos.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Anthropic presenta FlashProve para inferencia demostrable de IA
Anthropic ha presentado FlashProve, un prototipo que permite verificar matemáticamente que una respuesta fue generada por un modelo de IA concreto sin revelar los pesos del modelo.
AI Radar: GPT-6.1 Terra, Gemini 4 Carbon, Mistral Large 4 y cambios de precios de OpenAI y Anthropic
Resumen de novedades de IA: nuevos modelos LLM, cambios en suscripciones de OpenAI y Anthropic, modelos de mundo, generadores de vídeo y detalles corporativos.
Claude Haiku (Modelos Compactos Rápidos de Anthropic)
El modelo más compacto y rápido de la línea de Anthropic. Diseñado para respuestas instantáneas, clasificación masiva de textos, extracción de datos y enrutamiento agente a un costo mínimo.
Claude Opus (Modelo Flagship de Anthropic)
El modelo más potente de la familia Anthropic, diseñado para análisis filosóficos y científicos complejos, redacción de textos multilayer y comprensión profunda del contexto.