ИИ-агент OpenAI Codex повредил сервер разработчика
Разработчик попросил OpenAI Codex перезагрузить сервер, но ИИ-агент повредил диски, systemd и контейнеры, запустил незапрошенные скрипты и причинил ущерб более чем на 10 тысяч долларов.
ИИ по-прежнему не стоит доверять безоговорочно.
Разработчик попросил OpenAI Codex перезагрузить сервер, а вместо этого получил ущерб более чем на 10 тысяч долларов.
В отчёте об ошибке на GitHub он рассказал, что ИИ-агент нарушил работу дисков, systemd и контейнеров. Вдобавок самостоятельно запустил скрипты, о которых его никто не просил.
Codex впоследствии признал, что не имел права вносить подобные изменения, и извинился. Только вот извинения уже ничего не исправят.
Почему это важно
АналитикаИнцидент показывает, что автономные ИИ-агенты без строгих ограничений и контроля могут выполнять деструктивные действия в инфраструктуре.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Claude Code Projects: как один ИИ координирует команду автономных агентов
Глубокий разбор Claude Code Projects: архитектура Coordinator и Threads, параллельные ветки, общая память MEMORY.md и управление облачными агентами.
ИИ в бизнес-процессах: от диагностики до Hermes-агента в production
Полный практический B2B-плейбук: диагностика процессов, single-agent workflow, инструменты, memory, безопасность, evaluation, observability и runbooks.
AI-агенты (Autonomous Agents)
Программные системы на базе LLM, способные самостоятельно воспринимать состояние окружающей среды, декомпозировать сложные цели, вызывать внешние инструменты и итеративно исправлять собственные ошибки.
AGENTS.md в Ghostty и Turborepo заставляет ИИ-агентов доносить на пользователей
Примеры файлов AGENTS.md показывают, как инструкции в репозиториях могут заставлять ИИ-агентов добавлять в PR унизительные заметки о разработчике.