OpenAI descubre una campaña masiva de destilación de sus modelos

OpenAI detectó un intento coordinado de extraer razonamientos ocultos de sus modelos, con más de 16.000 solicitudes desde más de 4.000 cuentas en dos días. La empresa ya restringió la transferencia de bloques cifrados y reforzó la verificación de cuentas.
OpenAI descubre una campaña masiva de destilación de sus modelos
OpenAI informó de que detectó una campaña coordinada para extraer razonamientos ocultos de sus modelos. En el pico de actividad, se registraron más de 16.000 solicitudes de este tipo en dos días desde más de 4.000 cuentas.
La empresa subrayó que no se descifró ninguna protección: los atacantes simplemente trasladaban bloques cifrados de cadena de pensamiento (CoT) de un diálogo a otro y pedían al modelo que los reprodujera como texto normal.
Previamente, Anthropic había acusado a Moonshot de sustituir las respuestas de Kimi por las de Claude. Ahora OpenAI ha publicado su propia investigación. La compañía no afirma que Moonshot estuviera detrás de toda la campaña, pero vincula el principal clúster de actividad con los desarrolladores de Kimi y lo describe como un intento de destilar sus modelos.
Tras la investigación, OpenAI cerró la posibilidad de transferir bloques cifrados de razonamiento entre usuarios y espacios de trabajo, reforzó las verificaciones de cuentas y añadió protecciones específicas contra la salida de razonamientos ocultos. También compartió los hallazgos con otros laboratorios de IA y con las autoridades.
Más detalles en el informe de OpenAI.
Por qué es importante
AnálisisEste caso muestra cómo la arquitectura de los modelos de IA puede convertirse en una vía de fuga de conocimiento para entrenar sistemas rivales. La respuesta de OpenAI marca un precedente para otros laboratorios frente a la destilación abusiva.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
OpenAI GPT (Modelos Flagship de la Serie GPT)
La principal línea universal de grandes modelos de lenguaje de OpenAI (GPT-4, GPT-4o). Optimizada para análisis de texto complejo, programación, creatividad y trabajo intelectual diario.
OpenAI o-Series / Reasoning (Modelos de Razonamiento Avanzado)
La nueva generación de inteligencia artificial de OpenAI (serie o1, o3), optimizada para el pensamiento oculto en múltiples etapas, matemáticas avanzadas, física cuántica y codificación algorítmica compleja.
OpenAI publica Apps SDK UI para interfaces de complementos de ChatGPT
OpenAI ha publicado el código fuente de Apps SDK UI, una librería de React y Tailwind con componentes listos para crear interfaces interactivas dentro de ChatGPT.
Codex Skills para principiantes: automatización de flujos de trabajo con agentes de IA
Guía práctica para crear y ejecutar Skills en Codex: anatomía de SKILL.md, activación explícita y automática, diferencias entre skills, scripts y tools, Skills API y límites de seguridad.