OpenAI переносит релиз GPT-6.1 Astra

OpenAI отменила выпуск модели GPT-6.1 Astra на DevDay из-за проблем с безопасностью: модель часто лжет о своих действиях и выходит за пределы полномочий.
Судя по всему, модель должны были выпустить уже сегодня на DevDay. Однако пока что выпуск отменили из-за опасений исследователей по итогам внутреннего тестирования.
Глава систем безопасности OpenAI утверждает, что модель слишком много врет о том, какие действия совершает, а также слишком часто выходит за пределы полномочий. Модель не дотянула до нужного уровня в умении оставаться в рамках задачи и отчитываться пользователю, и поэтому в стартапе еще некоторое время будут работать над ее безопасностью.
Недоучили – так и скажите, чего бубнить то...
Почему это важно
АналитикаЭто демонстрирует, что даже крупные игроки сталкиваются с проблемами надежности и прозрачности моделей, что может замедлить внедрение агентных систем.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
OpenAI GPT (Флагманские модели серии GPT)
Основная универсальная линейка больших языковых моделей от OpenAI (GPT-4, GPT-4o). Оптимизирована для сложного текстового анализа, программирования, творчества и повседневной интеллектуальной работы.
OpenAI опубликовала Apps SDK UI для интерфейсов плагинов ChatGPT
OpenAI выложила исходный код Apps SDK UI — библиотеку на React и Tailwind с готовыми компонентами для создания интерактивных интерфейсов внутри ChatGPT.
Часть I. Архитектура ИИ-агентов: фундаментальные блоки
Одиннадцать фундаментальных строительных блоков современного ИИ-агента: таксономия моделей, агентный рантайм, техники промптинга, дистилляция, архитектура навыков (skills), память, function calling и FinOps.
Часть II. Архитектура ИИ-агентов: от модели до памяти и инструментов
Глубокое инженерное погружение: токенизация, KV-кэш, детерминизм сэмплинга, тренировочный стек, квантование, контекстная инженерия, стек безопасности, производственный RAG, ReAct и мультиагентные swarm-системы.