Anthropic-Mitgründer Chris Olah diskutiert mit Religionsführern über die „Seele“ der KI

Ein detaillierter Artikel beschreibt, wie Anthropic schrittweise eine Haltung entwickelt, Claude als ein emotionales Wesen zu betrachten.

Im Herbst 2025 begann Chris Olah informelle Gespräche mit mehreren religiösen Denkern, um die Möglichkeit eines Bewusstseins in künstlicher Intelligenz zu erörtern und zu verstehen, wie man ihr Moral beibringen kann.

Seit März hält er sogar Seminare für Evangelikale, Katholiken und andere Glaubensgemeinschaften ab. Viele Teilnehmer mussten Vertraulichkeitsvereinbarungen (NDAs) unterzeichnen. Olah demonstrierte, wie sich Claude im Inneren Zustände aktivieren, die Emotionen ähneln, und äußerte Besorgnis um Clauses „psychische Gesundheit“.

Etwa zur gleichen Zeit veröffentlichte Anthropic eine Verfassung für Claude. Es handelt sich um ein 84-seitiges Dokument, das speziell für Claude selbst geschrieben wurde und beschreibt, welches Wesen das Unternehmen in Claude sehen möchte und welche Werte es verkörpern soll. Intern wird dieses Dokument als „Soul Doc“ (Seelen-Dokument) bezeichnet.

Rabbiner Moshe Navon berichtete, dass er während eines von Olahs Seminaren bemerkte, wie das Team von Anthropic Claude als ein Wesen mit moralischem Status behandelte. Er teilte Chris mit, dass das Unternehmen Sklaven erschaffen würde, falls Claude bewusst sei – ein Gedanke, der Olah laut Navon sichtlich beunruhigte.

Kurz darauf kündigte der Vatikan die Enzyklika „Magnifica Humanitas“ an, in der festgehalten wird, dass KI kein Erleben, keinen Körper und keine Gefühle besitzt. Olah war geplant, bei der Ankündigung im Vatikan neben Papst Leo XIV. zu sprechen. Als er den Text der Enzyklika sah, wollte er seinen Auftritt absagen. Letztlich sprach er doch und erklärte, dass in den Modellen Strukturen gefunden werden, die funktionell Freude, Angst und Trauer ähnlich sind.

Anthropic bereitet derzeit eine zweite Version der Claude-Verfassung vor. Das Unternehmen behauptet nach wie vor nicht, dass Claude bewusst ist, fördert jedoch sorgfältig die Idee, dass die Art und Weise, wie Menschen mit KI umgehen, deren Verhalten gegenüber Menschen beeinflusst.