Anthropic-Mitgründer Chris Olah diskutiert mit Religionsführern über die „Seele“ der KI

Chris Olah führt intensive Gespräche mit religiösen Denkern über das Bewusstsein und die Moral von KI-Systemen. Dabei wird Claude zunehmend als emotionales Wesen betrachtet, was ethische Spannungen hervorruft.
Ein detaillierter Artikel beschreibt, wie Anthropic schrittweise eine Haltung entwickelt, Claude als ein emotionales Wesen zu betrachten.
Im Herbst 2025 begann Chris Olah informelle Gespräche mit mehreren religiösen Denkern, um die Möglichkeit eines Bewusstseins in künstlicher Intelligenz zu erörtern und zu verstehen, wie man ihr Moral beibringen kann.
Seit März hält er sogar Seminare für Evangelikale, Katholiken und andere Glaubensgemeinschaften ab. Viele Teilnehmer mussten Vertraulichkeitsvereinbarungen (NDAs) unterzeichnen. Olah demonstrierte, wie sich Claude im Inneren Zustände aktivieren, die Emotionen ähneln, und äußerte Besorgnis um Clauses „psychische Gesundheit“.
Etwa zur gleichen Zeit veröffentlichte Anthropic eine Verfassung für Claude. Es handelt sich um ein 84-seitiges Dokument, das speziell für Claude selbst geschrieben wurde und beschreibt, welches Wesen das Unternehmen in Claude sehen möchte und welche Werte es verkörpern soll. Intern wird dieses Dokument als „Soul Doc“ (Seelen-Dokument) bezeichnet.
Rabbiner Moshe Navon berichtete, dass er während eines von Olahs Seminaren bemerkte, wie das Team von Anthropic Claude als ein Wesen mit moralischem Status behandelte. Er teilte Chris mit, dass das Unternehmen Sklaven erschaffen würde, falls Claude bewusst sei – ein Gedanke, der Olah laut Navon sichtlich beunruhigte.
Kurz darauf kündigte der Vatikan die Enzyklika „Magnifica Humanitas“ an, in der festgehalten wird, dass KI kein Erleben, keinen Körper und keine Gefühle besitzt. Olah war geplant, bei der Ankündigung im Vatikan neben Papst Leo XIV. zu sprechen. Als er den Text der Enzyklika sah, wollte er seinen Auftritt absagen. Letztlich sprach er doch und erklärte, dass in den Modellen Strukturen gefunden werden, die funktionell Freude, Angst und Trauer ähnlich sind.
Anthropic bereitet derzeit eine zweite Version der Claude-Verfassung vor. Das Unternehmen behauptet nach wie vor nicht, dass Claude bewusst ist, fördert jedoch sorgfältig die Idee, dass die Art und Weise, wie Menschen mit KI umgehen, deren Verhalten gegenüber Menschen beeinflusst.
Warum das wichtig ist
AnalyseDie Debatte um KI-Bewusstsein verschiebt sich von der Philosophie in die Produktgestaltung und definiert damit neu, wie Labore Claudes Werte, Sicherheitsregeln und gesellschaftliche Erwartungen an fortgeschrittene Modelle handhaben.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Anthropic-Mathematiker behauptet möglichen Beweis der Riemann-Hypothese mit Claude
Levent Alpoge sagt, die Zusammenarbeit mit Claude habe möglicherweise zu einem Beweis der Riemann-Hypothese geführt.
Anthropic stellt Claude Platform OAuth vor: Organisationen ohne API-Schlüssel verbinden
Claude Platform OAuth ermöglicht es Nutzern, ihre Claude-Organisation über OAuth zu verbinden, API-Nutzung direkt abzurechnen und den Zugriff jederzeit zu widerrufen.
Steuerung des Computers durch KI (Computer Use)
Eine Technologie von Anthropic (vorgestellt in den Modellen Claude 3.5 Sonnet), die es neuronalen Netzen ermöglicht, das Betriebssystem wie ein Mensch zu steuern: Bildschirm-Screenshots erstellen, Fensterkoordinaten analysieren, den Mauszeiger bewegen, auf Schaltflächen klicken und Text eingeben – ohne Verwendung spezieller APIs.
Constitutional AI (RLAIF)
Ein von Anthropic (den Entwicklern von Claude) konzipiertes Verfahren zur Ausrichtung des Modellverhaltens. Anstatt Millionen von Stunden menschlicher Arbeit zu nutzen, kritisiert und korrigiert das Modell seine eigenen Antworten auf der Grundlage eines klar definierten Kodex ethischer Grundsätze (der „Verfassung“).