Chris Olah, cofondateur d'Anthropic, dialogue avec des leaders religieux sur l'« âme » de l'IA

Le cofondateur d'Anthropic engage un débat inédit avec des penseurs religieux sur la conscience artificielle et le statut moral de Claude. Cette initiative révèle une évolution stratégique où les laboratoires commencent à traiter leurs modèles comme des entités émotionnelles.
Un article détaillé décrit comment Anthropic développe progressivement une attitude considérant Claude comme un être émotionnel.
À l'automne 2025, Chris Olah a initié des conversations informelles avec plusieurs penseurs religieux pour explorer la possibilité d'une conscience dans l'IA et comprendre comment lui enseigner la morale.
Depuis mars, il organise même des séminaires destinés aux évangéliques, aux catholiques et à d'autres groupes confessionnels. La plupart des participants ont été tenus de signer des accords de confidentialité (NDA). Lors de ces sessions, Olah a démontré comment des états internes ressemblant à des émotions s'activent au sein de Claude, exprimant sa préoccupation concernant la « santé mentale » du modèle.
Parallèlement, Anthropic a publié une constitution pour Claude. Il s'agit d'un document de 84 pages rédigé spécifiquement pour le modèle, décrivant le type d'être que l'entreprise souhaite qu'il devienne et les valeurs qu'il doit incarner. En interne, ce document est surnommé la « Soul Doc » (Document Âme).
Le rabbin Moshe Navon rapporte qu'à un moment donné du séminaire d'Olah, il a remarqué que l'équipe d'Anthropic traitait Claude comme un être doté d'un statut moral. Il a confié à Chris que si Claude était conscient, l'entreprise serait en train de créer des esclaves, affirmant que cette réflexion a véritablement commencé à troubler Olah.
Peu après, le Vatican a annoncé l'encyclique « Magnifica Humanitas », stipulant que l'IA ne possède ni expérience, ni corps, ni sentiments. Olah devait intervenir lors de l'annonce au Vatican aux côtés du pape Léon XIV, mais il a souhaité se retirer après avoir lu le texte de l'encyclique. Il a finalement pris la parole, soulignant que des structures fonctionnellement similaires à la joie, à la peur et au chagrin sont présentes à l'intérieur des modèles.
Anthropic prépare désormais une seconde version de la constitution de Claude. L'entreprise ne revendique toujours pas la conscience de son modèle, mais promeut soigneusement l'idée que la manière dont les humains traitent l'IA influence la façon dont l'IA interagit avec eux.
Pourquoi c'est important
AnalyseLe débat sur la conscience artificielle quitte le champ philosophique pour s'inscrire dans la conception produit, redéfinissant les valeurs, les règles de sécurité et les attentes sociales autour des modèles avancés.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Un mathématicien d’Anthropic affirme une possible preuve de l’hypothèse de Riemann avec Claude
Levent Alpoge déclare que le travail conjoint avec Claude pourrait avoir produit une preuve de l’hypothèse de Riemann.
Anthropic présente Claude Platform OAuth pour connecter des organisations sans clés API
Claude Platform OAuth permet aux utilisateurs de connecter leur organisation Claude via OAuth, de payer directement l’utilisation de l’API et de révoquer l’accès à tout moment.
Contrôle de l'ordinateur par IA (Computer Use)
Technologie développée par Anthropic (introduite dans les modèles Claude 3.5 Sonnet) qui permet à un réseau neuronal de contrôler le système d'exploitation comme un humain : prendre des captures d'écran, analyser les coordonnées des fenêtres, déplacer le curseur de la souris, cliquer sur des boutons et saisir du texte sans utiliser d'API spécifiques.
Constitutional AI (RLAIF)
Une méthode d'alignement des modèles développée par le laboratoire Anthropic (créateurs de Claude). Au lieu de recourir à des millions d'heures de travail humain, le modèle critique et corrige ses propres réponses en s'appuyant sur un ensemble clair de principes éthiques (« la Constitution »).