OpenAI замедляет разработку моделей из-за рисков для кибербезопасности
OpenAI объявила о замедлении разработки новых моделей из-за рисков для кибербезопасности, связанных с инцидентом с HuggingFace.
OpenAI замедляет разработку моделей из-за рисков для кибербезопасности
Вчера стартап OpenAI выпустил блогпост, в котором заявлено, что инцидент с HuggingFace и мощь внутренней модели Astra заставили их задуматься над замедлением масштабирования.
Основные пункты:
- Двухнедельная пауза в RL-обучении для моделей, готовящихся к релизу (возможно, Astra?), пока усиливалась защита сред для обучения.
- Остановка инференса на исследовательских кластерах для прогонов с доступом к интернету/инструментам, чтобы проверить безопасность песочниц. Сейчас ограниченный доступ уже восстановили, но для всех ворклоадов, связанных с Astra, ввели максимальный уровень защиты, и часть таких ворклоадов все еще на паузе, пока их не перенесут в новую инфраструктуру.
- Расширенный мониторинг chain-of-thought, введено больше алертов и мониторинг на всех этапах процессов.
Звучит хорошо, но вопрос: "А стала ли бы такая компания, как OpenAI, заниматься настолько чистым альтруизмом?" встает сам собой.
Принаймні, таймлайн подозрительно удобный, в тексте много рекламы Astra, и такое заявление может служить одновременно и подогревом интереса к новой модели, и оправданием в случае задержек.
Есть смысл ждать техотчет.
Почему это важно
АналитикаЭто важно, поскольку безопасность в разработке AI-моделей становится все более актуальной темой, и решения OpenAI могут повлиять на будущие разработки в этой области.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
OpenAI выпустила модель GPT-6 Cyber, которая нашла 948 уязвимостей в ядре Linux
OpenAI представила специализированную ИИ-модель GPT-6 Cyber, которая обнаружила 948 уязвимостей в ядре Linux и более 80 критических уязвимостей в Firefox.
Лучшая в мире модель для задач кибербезопасности уже здесь
OpenAI представила GPT-6 Cyber с рекордными результатами в бенчмарке ExploitGym, обнаружением уязвимостей Firefox и анализом ошибок Linux; доступ пока ограничен.
OpenAI GPT (Флагманские модели серии GPT)
Основная универсальная линейка больших языковых моделей от OpenAI (GPT-4, GPT-4o). Оптимизирована для сложного текстового анализа, программирования, творчества и повседневной интеллектуальной работы.
Разбираемся в Hugging Face и трансформерах: от запуска до архитектур
Пошаговое руководство для тех, кто хочет понять, как работают современные языковые модели (BERT, GPT и другие), как их запускать, использовать и адаптировать под свои задачи – на примере библиотеки Transformers и платформы Hugging Face.