Chris Olah, cofundador da Anthropic, debate a 'alma' da IA com líderes religiosos

O cofundador da Anthropic, Chris Olah, tem se reunido com pensadores religiosos para discutir a consciência, a moralidade e o tratamento emocional emergente do modelo Claude.
Um artigo detalhado descreve como a Anthropic está gradualmente desenvolvendo uma postura que trata o Claude como um ser emocional.
No outono de 2025, Chris Olah iniciou conversas informais com diversos pensadores religiosos para discutir a possibilidade de consciência em IAs e entender como ensinar moralidade a elas.
Desde março, ele passou a realizar seminários para evangélicos, católicos e outros grupos. Muitos participantes foram obrigados a assinar acordos de confidencialidade (NDAs). Olah demonstrou como estados semelhantes às emoções são ativados internamente no Claude e expressou preocupação com a saúde mental do modelo.
Por volta da mesma época, a Anthropic lançou uma constituição para o Claude. Trata-se de um documento de 84 páginas escrito para o próprio Claude, descrevendo que tipo de ser a empresa deseja que ele se torne e quais valores deve incorporar. Internamente na startup, o documento é chamado de "Soul Doc" (Documento da Alma).
O Rabino Moshe Navon afirma que, durante um dos seminários de Olah, percebeu que a equipe da Anthropic tratava o Claude como um ser com status moral. Ele disse a Chris que, se o Claude fosse consciente, a empresa estaria criando escravos, e alega que esse pensamento começou genuinamente a perturbar Olah.
Pouco depois, o Vaticano anunciou a encíclica "Magnifica Humanitas", que declara que a IA não possui experiência, corpo ou sentimentos. Olah estava agendado para falar no anúncio do Vaticano ao lado do Papa Leão XIV, mas desejou retirar-se após ver o texto da encíclica. Ele acabou falando, afirmando que estruturas funcionalmente semelhantes à alegria, ao medo e ao luto são encontradas dentro dos modelos.
A Anthropic está agora preparando uma segunda versão da constituição do Claude. A empresa ainda não afirma que o Claude é consciente, mas promove cuidadosamente a ideia de que a forma como as pessoas tratam a IA afeta como a IA se comporta com as pessoas.
Por que isso importa
AnáliseO debate sobre a consciência da IA está migrando da filosofia para o design de produtos, moldando como os laboratórios definem os valores, as regras de segurança e as expectativas sociais em torno de modelos avançados.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Matemático da Anthropic afirma possível prova da hipótese de Riemann com Claude
Levent Alpoge diz que a colaboração com o Claude pode ter levado a uma prova da hipótese de Riemann.
Anthropic apresenta Claude Platform OAuth para conectar organizações sem chaves de API
O Claude Platform OAuth permite que usuários conectem sua organização Claude via OAuth, paguem o uso da API diretamente e revoguem o acesso a qualquer momento.
Controle do Computador por IA (Computer Use)
Tecnologia da Anthropic (apresentada nos modelos Claude 3.5 Sonnet) que permite à rede neural controlar o sistema operacional como um ser humano: tirar capturas de tela, analisar coordenadas de janelas, mover o cursor do mouse, clicar em botões e inserir texto sem o uso de APIs específicas.
Constitutional AI (RLAIF)
An alignment method developed by Anthropic (the creators of Claude). Instead of relying on millions of hours of human labor, the model critiques and revises its own responses based on a clear set of ethical principles (the \"Constitution\").