Хинтон, Бенджио и еще 20 исследователей опубликовали статью про интеллектуальный взрыв

Авторы рассматривают сценарий, при котором ИИ ускоряет собственную разработку и сжимает годы прогресса в месяцы, а также предлагают меры регулирования.
Работа вышла в Кембридже, всего у нее 22 автора. Среди них главный научный сотрудник OpenAI Якуб Пачоцки и сооснователь Anthropic Джек Кларк. Главный вопрос: что будет, если ИИ начнет ускорять разработку ИИ настолько, что годы прогресса сожмутся в месяцы.
Начинают с того, что уже происходит в лабах. В Anthropic доля кода, написанного моделями, выросла с единиц процентов до более 80% с начала 2025 года, а доля R&D-задач, которые ИИ делает автономно, за полгода выросла с 1% до 26%.
Логика взрыва простая: модели расширяют исследовательский штат, штат делает модели лучше, и цикл повторяется. Компьюта одной лабы хватит на эквивалент миллионов топовых исследователей. Если исторические темпы отдачи от исследований сохранятся, то после полной автоматизации прогресс ускорится в 10 раз примерно за полтора года.
Сценарий может и не реализоваться, если упрется в компьют, данные или длительность претрейнов, но риски авторы считают серьезными. Общество не успеет адаптироваться, люди потеряют контроль над моделями, а лидер гонки получит слишком большой перевес.
Регуляторам советуют обязать лабы отчитываться о степени автоматизации R&D и пускать внешних аудиторов проверять модели до внутреннего деплоя. Параллельно нужно заранее подготовить механизмы замедления: лимиты на прирост способностей за период, возможность ставить на паузу конкретные нагрузки в датацентрах, международные соглашения с проверкой исполнения.
По мнению авторов, если взрыв начнется, решать что-то будет уже поздно.
Почему это важно
АналитикаМатериал важен, потому что связывает автоматизацию исследований в ИИ-лабораториях с потенциальным скачком развития и предлагает регуляторам заранее готовить механизмы контроля.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Anthropic вышли на IPO
Акции Anthropic торгуются около $100. Компания привлекла $81 млрд в IPO и ещё $26 млрд через приватную продажу акций крупным инвесторам.
Harvard запускает курс по безопасности ИИ для аспирантов с участием OpenAI и Anthropic
Harvard этой осенью проводит курс для аспирантов по безопасности ИИ. Лекции дают специалисты OpenAI и Anthropic, записи доступны бесплатно на YouTube.
Как создать собственную дизайн-систему в Claude Design: от мудборда до анимированного маскота
Полное практическое руководство по созданию бренд-дизайн-системы в Claude Design: сбор референсов, генерация 4 концепций, токенизация, стресс-тестирование и разработка анимированного SVG-маскота.
Claude Code Projects: как один ИИ координирует команду автономных агентов
Глубокий разбор Claude Code Projects: архитектура Coordinator и Threads, параллельные ветки, общая память MEMORY.md и управление облачными агентами.