Глава Anthropic закликає сповільнити розвиток ШІ, Трамп виступає проти
Дарио Амодеї закликав до уповільнення розробки ШІ через ризики рекурсивного самовдосконалення, тоді як Дональд Трамп назвав такі ідеї шкідливими для конкурентоспроможності США.
Дарио Амодеї, генеральний директор Anthropic, закликав до уповільнення темпів розвитку штучного інтелекту. Він заявив, що його компанія готова зробити перший крок у цьому напрямку, оскільки всередині провідних лабораторій ШІ моделі вже починають демонструвати ознаки рекурсивного самовдосконалення.
Трамп виступив проти сповільнення
Ситуація загострилася під час публічного інтерв'ю з Дженсеном Хуангом, генеральним директором NVIDIA. Під час розмови зателефонував Дональд Трамп. Хуанг спробував увімкнути гучний зв'язок, але не одразу впорався з технічною частиною. Трамп пожартував:
«Він може створювати найпотужніші ШІ-чипи у світі, але не може розібратися, як увімкнути мене на гучний зв'язок».
Згодом розмова перейшла до закликів Амодеї та інших керівників технологічних гігантів сповільнити розвиток ШІ. Трамп категорично відкинув ці ідеї, заявивши, що роботи не захоплять світ, а розмови про «ШІ-апокаліпсис» є обманом. Він наголосив, що будь-яке уповільнення розвитку штучного інтелекту лише дасть стратегічну перевагу Китаю.
Дженсен Хуанг відреагував на ці зауваження, зазначивши, що галузь не дозволить зупинити свій розвиток.
Чому це важливо
АналітикаЦе підкреслює зростаючу напругу між прихильниками безпеки ШІ та тими, хто ставить на перше місце технологічне лідерство та економічну конкуренцію, особливо в контексті геополітики США та Китаю.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Векторний пошук проти Ctrl+F (Dense vs Sparse)
Порівняння двох підходів до пошуку: нейромережевого смислового (Dense Retrieval) та класичного ключового за збігом слів (Sparse / BM25). Пояснює, чому векторний пошук може провалитися на пошуку артикулів товарів і як працює гібридний пошук.
Як відучити ШІ вигадувати (Промпти проти галюцинацій)
Набір перевірених інженерних технік та словесних конструкцій, які блокують генерацію вигаданих фактів, неіснуючих законів і хибних цитат. Змушує штучний інтелект спиратися суворо на надані джерела.
Сервіс для оцінки ризику блокування з боку Anthropic
Китайські розробники запустили сервіс, який аналізує IP-адресу, країну, провайдера, тип підключення, а також перевіряє витоки DNS і WebRTC, щоб оцінити ризик отримання блокування від Anthropic.
Anthropic випустила FlashProve в опенсорс — інструмент для доказуваного інференсу
Anthropic опублікувала в опенсорс прототип відкритого криптографічного протоколу FlashProve, який дозволяє перевірити, чи відповідь згенерувала саме заявлена модель, без доступу до її ваг.