Глава Anthropic призывает замедлить развитие ИИ, Трамп выступает против
Дарио Амодеи призвал к замедлению разработки ИИ из-за рисков рекурсивного самоулучшения, тогда как Дональд Трамп назвал такие идеи вредными для конкурентоспособности США.
Дарио Амодеи, генеральный директор Anthropic, призвал замедлить темпы развития искусственного интеллекта. Он заявил, что компания готова сделать первый шаг в этом направлении, поскольку внутри ведущих лабораторий ИИ модели уже начинают достигать рекурсивного самоулучшения.
Трамп выступает против замедления
Ситуация обострилась во время публичного интервью с Дженсеном Хуангом, генеральным директором NVIDIA. Во время разговора позвонил Дональд Трамп. Хуанг попытался включить громкую связь, но не сразу справился с технической частью. Трамп пошутил:
«Он может делать самые мощные ИИ-чипы в мире, но не может разобраться, как включить меня на громкую связь».
Затем разговор перешел к призывам Амодеи и других руководителей технологических гигантов замедлить развитие ИИ. Трамп категорически отверг эти идеи, заявив, что роботы не захватят мир, а разговоры об «ИИ-апокалипсисе» — это обман. Он подчеркнул, что любое замедление развития искусственного интеллекта лишь даст стратегическое преимущество Китаю.
Дженсен Хуанг отреагировал на эти замечания, отметив, что отрасль не позволит остановить свое развитие.
Почему это важно
АналитикаЭто подчеркивает растущую напряженность между сторонниками безопасности ИИ и теми, кто ставит на первое место технологическое лидерство и экономическую конкуренцию, особенно в контексте геополитики США и Китая.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Векторный поиск против Ctrl+F (Dense vs Sparse)
Сравнение двух подходов к поиску: нейросетевого смыслового (Dense Retrieval) и классического ключевого по совпадению слов (Sparse / BM25). Объясняет, почему векторный поиск может провалиться при поиске артикулов товаров и как работает гибридный поиск.
Как отучить ИИ выдумывать (Промпты против галлюцинаций)
Набор проверенных инженерных техник и словесных конструкций, которые блокируют генерацию вымышленных фактов, несуществующих законов и ложных цитат. Заставляет искусственный интеллект опираться строго на предоставленные источники.
Сервис для оценки риска блокировки со стороны Anthropic
Китайские разработчики запустили сервис, который анализирует IP-адрес, страну, провайдера, тип подключения, а также утечки DNS и WebRTC и оценивает риск бана со стороны Anthropic.
Anthropic выпустила FlashProve в опенсорс — инструмент для доказуемого инференса
Anthropic опубликовала в опенсорс прототип открытого криптографического протокола FlashProve, позволяющий проверить, что ответ сгенерировала именно заявленная модель, без доступа к её весам.