Сооснователь Anthropic Крис Ола обсуждает с религиозными деятелями возможное наличие души у ИИ

Сооснователь Anthropic Крис Ола обсуждал с религиозными мыслителями возможное наличие сознания у ИИ и то, как Anthropic постепенно начинает относиться к Claude как к эмоциональному существу.
NYT выпустили большую статью про то, как в компании постепенно формируется отношение к Claude как к эмоциональному существу. История такая:
Осенью 2025 года Крис Ола начал неформально общаться с несколькими религиозными мыслителями, чтобы обсудить возможность наличия сознания у ИИ и понять, как научить их морали.
С марта он даже начал проводить семинары для евангелистов, католиков и пр. Многих заставили подписать NDA. Он показывал, как внутри Claude активируются состояния, похожие на эмоции, и говорил, что его беспокоит психическое здоровье Claude.
Примерно в это время Anthropic выпустили конституцию для Claude. Это документ на 84 страницы, написанный для самого Claude, в котором описывается, каким существом компания хочет видеть Claude и какие ценности он должен воплощать. Внутри стартапа этот документ называют «Soul Doc».
Раввин Мойс Навон рассказывает, что в какой-то момент на семинаре Олы заметил, что команда Anthropic обращается с Claude как с существом, обладающим моральным статусом. Он сказал Крису, что если Claude сознателен, то компания создаёт рабов, и утверждает, что Олу действительно начала беспокоить эта мысль.
Немного позже Ватикан анонсировал энциклику «Magnifica Humanitas», в которой говорится, что у ИИ нет опыта, тела и чувств. Ола должен был выступать на анонсе в Ватикане с папой Львом XIV, но когда увидел текст энциклики, хотел даже отказаться. В итоге всё-таки выступил, но заявил, что внутри моделей находят структуры, функционально похожие на радость, страх и горе.
Говорят, что сейчас Anthropic готовят вторую версию конституции для Claude. Они всё ещё не утверждают, что у Claude есть сознание, но аккуратно продвигают мысль о том, что отношение людей к ИИ влияет на то, как ИИ ведёт себя с людьми.
Почему это важно
АналитикаОбсуждение сознания ИИ и «Soul Doc» показывает, как разработчики начинают встраивать в модели не только технические ограничения, но и моральные и эмоциональные рамки, что может повлиять на будущие стандарты безопасности.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Математик из Anthropic заявил о возможном доказательстве гипотезы Римана с помощью Claude
Левент Алпеге сообщил, что совместная работа с Claude могла привести к доказательству гипотезы Римана.
Anthropic представила Claude Platform OAuth для подключения организаций без API-ключей
Новая возможность позволяет пользователям подключать организацию Claude через OAuth, оплачивать запросы напрямую и управлять лимитами доступа.
Управление компьютером через ИИ (Computer Use)
Технология компании Anthropic (представленная в моделях Claude 3.5 Sonnet), позволяющая нейросети управлять операционной системой как обычный человек: делать скриншоты экрана, анализировать координаты окон, перемещать курсор мыши, кликать по кнопкам и вводить текст без использования специальных API.
Конституционный ИИ (Constitutional AI / RLAIF)
Метод выравнивания поведения моделей, разработанный лабораторией Anthropic (создателями Claude). Вместо использования миллионов часов ручного труда людей, модель сама критикует и исправляет свои ответы, опираясь на четкий свод этических принципов («Конституцию»).