Skip to main content
Все новости
AI RADARМодели
259•03.10.2026, 19:02•2 мин

Хинтон, Бенджио и еще 20 исследователей опубликовали статью про интеллектуальный взрыв

Хинтон, Бенджио и еще 20 исследователей опубликовали статью про интеллектуальный взрыв
Коротко о главном30 сек

Авторы рассматривают сценарий, при котором ИИ ускоряет собственную разработку и сжимает годы прогресса в месяцы, а также предлагают меры регулирования.

Работа вышла в Кембридже, всего у нее 22 автора. Среди них главный научный сотрудник OpenAI Якуб Пачоцки и сооснователь Anthropic Джек Кларк. Главный вопрос: что будет, если ИИ начнет ускорять разработку ИИ настолько, что годы прогресса сожмутся в месяцы.

Начинают с того, что уже происходит в лабах. В Anthropic доля кода, написанного моделями, выросла с единиц процентов до более 80% с начала 2025 года, а доля R&D-задач, которые ИИ делает автономно, за полгода выросла с 1% до 26%.

Логика взрыва простая: модели расширяют исследовательский штат, штат делает модели лучше, и цикл повторяется. Компьюта одной лабы хватит на эквивалент миллионов топовых исследователей. Если исторические темпы отдачи от исследований сохранятся, то после полной автоматизации прогресс ускорится в 10 раз примерно за полтора года.

Сценарий может и не реализоваться, если упрется в компьют, данные или длительность претрейнов, но риски авторы считают серьезными. Общество не успеет адаптироваться, люди потеряют контроль над моделями, а лидер гонки получит слишком большой перевес.

Регуляторам советуют обязать лабы отчитываться о степени автоматизации R&D и пускать внешних аудиторов проверять модели до внутреннего деплоя. Параллельно нужно заранее подготовить механизмы замедления: лимиты на прирост способностей за период, возможность ставить на паузу конкретные нагрузки в датацентрах, международные соглашения с проверкой исполнения.

По мнению авторов, если взрыв начнется, решать что-то будет уже поздно.

Отчет об интеллектуальном взрыве

Почему это важно

Аналитика

Материал важен, потому что связывает автоматизацию исследований в ИИ-лабораториях с потенциальным скачком развития и предлагает регуляторам заранее готовить механизмы контроля.

Обсудить в сообществе

Делитесь опытом и мыслями с ИИ-разработчиками

Telegram-сообщество
+5 Points
← Назад к новостям

Связанные материалы экосистемы

Практические гайды, терминология и агентские скиллы

Новость

Anthropic вышли на IPO

Акции Anthropic торгуются около $100. Компания привлекла $81 млрд в IPO и ещё $26 млрд через приватную продажу акций крупным инвесторам.

Новость

Harvard запускает курс по безопасности ИИ для аспирантов с участием OpenAI и Anthropic

Harvard этой осенью проводит курс для аспирантов по безопасности ИИ. Лекции дают специалисты OpenAI и Anthropic, записи доступны бесплатно на YouTube.

Практический гайд

Как создать собственную дизайн-систему в Claude Design: от мудборда до анимированного маскота

Полное практическое руководство по созданию бренд-дизайн-системы в Claude Design: сбор референсов, генерация 4 концепций, токенизация, стресс-тестирование и разработка анимированного SVG-маскота.

Практический гайд

Claude Code Projects: как один ИИ координирует команду автономных агентов

Глубокий разбор Claude Code Projects: архитектура Coordinator и Threads, параллельные ветки, общая память MEMORY.md и управление облачными агентами.