El cofundador de Anthropic, Chris Olah, discute con líderes religiosos la posible alma de la IA

El cofundador de Anthropic, Chris Olah, se reunió con pensadores religiosos para hablar sobre la conciencia de la IA, la moral y el tratamiento de Claude como un ser emocional.
Un artículo detallado describe cómo en Anthropic se va formando una actitud hacia Claude como un ser emocional.
En otoño de 2025, Chris Olah comenzó a conversar informalmente con varios pensadores religiosos para discutir la posibilidad de que la IA tenga conciencia y para entender cómo enseñarle moralidad.
Desde marzo, incluso empezó a impartir seminarios para evangélicos, católicos y otros. A muchos se les obligó a firmar un NDA. Olah mostró cómo se activan dentro de Claude estados similares a las emociones y dijo que le preocupaba la salud mental de Claude.
Por esas mismas fechas, Anthropic publicó una constitución para Claude. Es un documento de 84 páginas escrito para el propio Claude, en el que se describe qué tipo de ser quiere la compañía que sea Claude y qué valores debe encarnar. Dentro de la startup, este documento se llama «Soul Doc».
El rabino Moshe Navon cuenta que, en un momento dado durante el seminario de Olah, notó que el equipo de Anthropic trataba a Claude como un ser con estatus moral. Le dijo a Chris que, si Claude fuera consciente, la empresa estaría creando esclavos, y afirma que ese pensamiento realmente empezó a preocupar a Olah.
Poco después, el Vaticano anunció la encíclica «Magnifica Humanitas», en la que se afirma que la IA no tiene experiencia, cuerpo ni sentimientos. Olah iba a intervenir en el anuncio del Vaticano junto con el papa León XIV, pero cuando vio el texto de la encíclica quiso retirarse. Finalmente habló, pero afirmó que dentro de los modelos se encuentran estructuras funcionalmente similares a la alegría, el miedo y la tristeza.
Anthropic está preparando una segunda versión de la constitución de Claude. La compañía todavía no afirma que Claude tenga conciencia, pero promueve con cautela la idea de que la forma en que las personas tratan a la IA influye en cómo la IA se comporta con las personas.
Por qué es importante
AnálisisLa discusión sobre la conciencia de la IA está pasando de la filosofía al diseño de productos, influyendo en los valores, las normas de seguridad y las expectativas sociales sobre los modelos avanzados.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Un matemático de Anthropic afirma una posible demostración de la hipótesis de Riemann con Claude
Levent Alpoge señala que el trabajo conjunto con Claude podría haber producido una demostración de la hipótesis de Riemann.
Anthropic presenta Claude Platform OAuth para conectar organizaciones sin claves API
Claude Platform OAuth permite a los usuarios conectar su organización de Claude mediante OAuth, pagar el uso de la API directamente y revocar el acceso en cualquier momento.
Control de Computadora a Través de IA (Computer Use)
La tecnología de Anthropic (presentada en los modelos Claude 3.5 Sonnet) permite a la red neuronal controlar el sistema operativo como lo haría una persona: tomar capturas de pantalla, analizar coordenadas de ventanas, mover el cursor, hacer clic en botones e ingresar texto sin utilizar APIs especiales.
Inteligencia Artificial Constitucional (Constitutional AI / RLAIF)
Método de alineación del comportamiento de modelos desarrollado por el laboratorio Anthropic (creadores de Claude). En lugar de utilizar millones de horas de trabajo manual, el modelo critica y corrige sus propias respuestas basándose en un conjunto claro de principios éticos ('Constitución').