Хінтон, Бенджіо та ще 20 дослідників опублікували статтю про інтелектуальний вибух

Дослідники аналізують, як автоматизація R&D у лабораторіях може стиснути роки прогресу ШІ в місяці, і пропонують регуляторам заздалегідь підготувати механізми контролю.
У Кембриджі вийшла стаття з 22 авторами, серед яких головний науковий співробітник OpenAI Якуб Пачоцкі та співзасновник Anthropic Джек Кларк. Головне питання роботи: що станеться, якщо ШІ почне прискорювати розробку ШІ настільки, що роки прогресу стиснуться в місяці.
Автори починають із того, що вже відбувається в лабораторіях. В Anthropic частка коду, написаного моделями, зросла з одиниць відсотків до понад 80% із початку 2025 року, а частка R&D-завдань, які ШІ виконує автономно, за пів року збільшилася з 1% до 26%.
Логіка «інтелектуального вибуху» проста: моделі розширюють дослідницький штат, штат робить моделі кращими, і цикл повторюється. Обчислювальних потужностей однієї лабораторії вистачить на еквівалент мільйонів провідних дослідників. Якщо історичні темпи віддачі від досліджень збережуться, після повної автоматизації прогрес прискориться в 10 разів приблизно за півтора року.
Сценарій може не реалізуватися, якщо впреться в обчислення, дані або тривалість претрейну, але автори вважають ризики серйозними. Суспільство не встигне адаптуватися, люди втратять контроль над моделями, а лідер гонки отримає надто велику перевагу.
Регуляторам радять зобов’язати лабораторії звітувати про ступінь автоматизації R&D і допускати зовнішніх аудиторів до перевірки моделей перед внутрішнім деплоєм. Паралельно потрібно заздалегідь підготувати механізми сповільнення: ліміти на приріст можливостей за період, можливість ставити на паузу конкретні навантаження в датацентрах, міжнародні угоди з перевіркою виконання.
На думку авторів, якщо вибух почнеться, вирішувати щось буде вже пізно.
Чому це важливо
АналітикаСтаття важлива, бо показує, що прискорення ШІ може стати не лише технічною, а й управлінською проблемою: якщо розробка автоматизується, суспільству доведеться реагувати швидше за поточні регуляторні цикли.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Anthropic вийшла на IPO: акції торгуються близько $100
Anthropic вийшла на IPO: акції торгуються близько $100, компанія залучила $81 млрд у IPO та $26 млрд через приватний продаж акцій великим інвесторам.
Harvard запускає курс зі безпеки ШІ для аспірантів із участю OpenAI та Anthropic
Harvard цієї осені проводить курс для аспірантів із безпеки ШІ, у якому беруть участь дослідники OpenAI та Anthropic; лекції доступні безкоштовно на YouTube.
Як створити власну дизайн-систему в Claude Design: від мудборду до анімованого маскота
Повний практичний посібник зі створення дизайн-системи бренду в Claude Design: збір візуальних референсів, генерація 4 концепцій, токенізація, стрес-тестування та розробка анімованого SVG-маскота.
Claude Code Projects: як один ШІ координує команду автономних агентів
Глибокий аналіз Claude Code Projects: архітектура Coordinator та Threads, паралельні гілки, спільна пам'ять MEMORY.md та управління хмарними агентами.