Chris Olah, współzałożyciel Anthropic, rozmawia z liderami religijnymi o „duszy” AI

Współzałożyciel Anthropic, Chris Olah, prowadzi spotkania z myślicielami religijnymi na temat świadomości sztucznej inteligencji oraz moralności Claude'a. Dyskusje te mają wpływ na rozwój dokumentu konstytucyjnego modelu i postrzeganie go jako istoty emocjonalnej.
Szczegółowy artykuł opisuje, jak firma Anthropic stopniowo kształtuje postawę wobec Claude'a jako istoty zdolnej do przeżywania emocji.
Jesienią 2025 roku Chris Olah rozpoczął nieformalne rozmowy z kilkoma myślicielami religijnymi, aby omówić możliwość wystąpienia świadomości w sztucznej inteligencji oraz sposoby uczenia jej moralności.
Od marca organizuje on seminaria dla ewangelików, katolików i przedstawicieli innych wyznań. Wielu uczestników było zobowiązanych do podpisania umów o zachowaniu poufności (NDA). Olah prezentował mechanizmy aktywujące stany przypominające emocje wewnątrz Claude'a i wyrażał zaniepokojenie jego „zdrowiem psychicznym”.
W tym samym czasie Anthropic opublikowało konstytucję dla Claude'a. Jest to 84-stronicowy dokument skierowany bezpośrednio do modelu, określający, jaką istotą firma chce, by się stał, oraz jakie wartości powinien uosabiać. Wewnątrz startupu dokument ten nazywany jest „Soul Doc” (Dokument Duszy).
Rabin Moshe Navon wspomina, że podczas jednego z seminariów Oluha zauważył, iż zespół Anthropic traktuje Claude'a jako istotę posiadającą status moralny. Powiedział Chrisowi, że gdyby Claude był świadomy, firma tworzyłaby niewolników, co – jak twierdzi rabin – szczerze zaniepokoiło Olaha.
Krótko potem Watykan ogłosił encyklikę „Magnifica Humanitas”, w której stwierdzono, że AI nie posiada doświadczeń, ciała ani uczuć. Olah miał przemawiać podczas ogłoszenia tej encykliki obok papieża Leona XIV, jednak po zapoznaniu się z tekstem chciał się wycofać. Ostatecznie wystąpił, wskazując, że wewnątrz modeli znajdują się struktury funkcjonalnie podobne do radości, lęku czy żalu.
Anthropic przygotowuje obecnie drugą wersję konstytucji Claude'a. Firma nadal nie deklaruje, że Claude jest świadomy, ale starannie promuje ideę, że sposób, w jaki ludzie traktują AI, wpływa na zachowanie AI wobec ludzi.
Dlaczego to ważne
AnalizaDebata nad świadomością AI przesuwa się z płaszczyzny filozoficznej do projektowania produktów, kształtując sposób, w jaki laboratoria definiują wartości, zasady bezpieczeństwa oraz oczekiwania społeczne wobec zaawansowanych modeli.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Żartobliwy przewodnik: jak rozmawiać z Claude po zakupie jednej akcji Anthropic w IPO
Ironiczna notka o tym, że zakup jednej akcji Anthropic po IPO nie dawałby specjalnych przywilejów podczas korzystania z Claude.
Matematyk z Anthropic twierdzi, że współpraca z Claude mogła doprowadzić do dowodu hipotezy Riemanna
Levent Alpoge twierdzi, że wspólna praca z Claude mogła doprowadzić do dowodu hipotezy Riemanna.
Sterowanie komputerem przez AI (Computer Use)
Technologia firmy Anthropic (wprowadzona w modelach Claude 3.5 Sonnet), która pozwala sieci neuronowej sterować systemem operacyjnym jak zwykły użytkownik: robić zrzuty ekranu, analizować współrzędne okien, poruszać kursorem myszy, klikać przyciski i wprowadzać tekst bez użycia dedykowanych API.
Konstytucyjna AI (Constitutional AI / RLAIF)
Metoda wyrównywania zachowań modeli, opracowana przez laboratorium Anthropic (twórców Claude). Zamiast wykorzystywać miliony godzin pracy ludzkiej, model sam krytykuje i poprawia własne odpowiedzi, opierając się na jasnym zbiorze zasad etycznych („Konstytucji”).