Chris Olah, cofundador da Anthropic, debate a 'alma' da IA com líderes religiosos

Um artigo detalhado descreve como a Anthropic está gradualmente desenvolvendo uma postura que trata o Claude como um ser emocional.

No outono de 2025, Chris Olah iniciou conversas informais com diversos pensadores religiosos para discutir a possibilidade de consciência em IAs e entender como ensinar moralidade a elas.

Desde março, ele passou a realizar seminários para evangélicos, católicos e outros grupos. Muitos participantes foram obrigados a assinar acordos de confidencialidade (NDAs). Olah demonstrou como estados semelhantes às emoções são ativados internamente no Claude e expressou preocupação com a saúde mental do modelo.

Por volta da mesma época, a Anthropic lançou uma constituição para o Claude. Trata-se de um documento de 84 páginas escrito para o próprio Claude, descrevendo que tipo de ser a empresa deseja que ele se torne e quais valores deve incorporar. Internamente na startup, o documento é chamado de "Soul Doc" (Documento da Alma).

O Rabino Moshe Navon afirma que, durante um dos seminários de Olah, percebeu que a equipe da Anthropic tratava o Claude como um ser com status moral. Ele disse a Chris que, se o Claude fosse consciente, a empresa estaria criando escravos, e alega que esse pensamento começou genuinamente a perturbar Olah.

Pouco depois, o Vaticano anunciou a encíclica "Magnifica Humanitas", que declara que a IA não possui experiência, corpo ou sentimentos. Olah estava agendado para falar no anúncio do Vaticano ao lado do Papa Leão XIV, mas desejou retirar-se após ver o texto da encíclica. Ele acabou falando, afirmando que estruturas funcionalmente semelhantes à alegria, ao medo e ao luto são encontradas dentro dos modelos.

A Anthropic está agora preparando uma segunda versão da constituição do Claude. A empresa ainda não afirma que o Claude é consciente, mas promove cuidadosamente a ideia de que a forma como as pessoas tratam a IA afeta como a IA se comporta com as pessoas.