OpenAI обнаружила массовую кампанию по дистилляции своих моделей

OpenAI сообщила о массовых запросах, направленных на извлечение скрытых рассуждений её моделей. Компания ограничила перенос зашифрованных блоков CoT и усилила проверки аккаунтов.
OpenAI обнаружила массовую кампанию по дистилляции своих моделей
Не так давно Anthropic утверждали, что Moonshot подменяли ответы Kimi ответами Claude. Теперь со своим расследованием вышла OpenAI.
Компания обнаружила массовую попытку вытащить скрытые рассуждения своих моделей. В пике за два дня прошло 16 000 таких запросов с более чем 4 000 аккаунтов.
При этом шифрование никто не взламывал: CoT просто переносили из одного диалога в другой и просили модель воспроизвести его обычным текстом.
OpenAI не утверждает, что за всем этим стояла Moonshot. Но основной кластер активности компания связывает с разработчиками Kimi, а происходящее считает попыткой дистилляции своих моделей.
После расследования OpenAI закрыли возможность переносить такие зашифрованные блоки между пользователями и рабочими пространствами, усилили проверки аккаунтов и добавили отдельную защиту от вывода скрытых рассуждений. Результатами расследования также поделились с другими AI-лабораториями и властями.
Детали — в отчёте OpenAI.
Почему это важно
АналитикаЭто показывает, как архитектурные особенности моделей могут использоваться для кражи знаний и обучения конкурентных систем. Ответ OpenAI задаёт ориентир для других AI-лабораторий в борьбе с дистилляцией.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
OpenAI GPT (Флагманские модели серии GPT)
Основная универсальная линейка больших языковых моделей от OpenAI (GPT-4, GPT-4o). Оптимизирована для сложного текстового анализа, программирования, творчества и повседневной интеллектуальной работы.
OpenAI o-серия / Reasoning (Модели углубленного рассуждения)
Новое поколение искусственного интеллекта от OpenAI (серия o1, o3), оптимизированное для многоэтапного скрытого мышления, высшей математики, квантовой физики и сложного алгоритмического кодирования.
OpenAI опубликовала Apps SDK UI для интерфейсов плагинов ChatGPT
OpenAI выложила исходный код Apps SDK UI — библиотеку на React и Tailwind с готовыми компонентами для создания интерактивных интерфейсов внутри ChatGPT.
Codex Skills для начинающих: автоматизация рабочих сценариев ИИ-агента
Практическое руководство по созданию и использованию Skills в Codex: анатомия SKILL.md, явная и авто-активация, разница между навыками, скриптами и тулами, Skills API и настройка безопасности.