Claude rechazó una tarea por la palabra “cyber”
Una breve observación de que Claude se negó a ejecutar una tarea por la palabra “cyber”.
El fragmento describe una reacción muy breve: 0,03 segundos después de que Claude se negara a ejecutar una tarea debido a la palabra “cyber”.
Puede leerse como una broma o como una observación sobre los filtros de seguridad y moderación en los modelos de IA, que a veces reaccionan a palabras o términos individuales, incluso cuando el contexto de la solicitud no es dañino.
Por qué es importante
AnálisisMuestra cómo los mecanismos de seguridad de la IA pueden afectar la experiencia del usuario por una sensibilidad excesiva a ciertas palabras.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Anthropic gasta más en el uso interno de Claude que en salarios
En su presentación de salida a bolsa, Anthropic reveló que el uso interno de Claude ha superado los salarios de los empleados si se calcula con las tarifas para clientes.
Claude se vuelve más inteligente
Claude se vuelve más inteligente, lo que sugiere posibles mejoras en las capacidades del modelo.
Control de Computadora a Través de IA (Computer Use)
La tecnología de Anthropic (presentada en los modelos Claude 3.5 Sonnet) permite a la red neuronal controlar el sistema operativo como lo haría una persona: tomar capturas de pantalla, analizar coordenadas de ventanas, mover el cursor, hacer clic en botones e ingresar texto sin utilizar APIs especiales.
Inteligencia Artificial Constitucional (Constitutional AI / RLAIF)
Método de alineación del comportamiento de modelos desarrollado por el laboratorio Anthropic (creadores de Claude). En lugar de utilizar millones de horas de trabajo manual, el modelo critica y corrige sus propias respuestas basándose en un conjunto claro de principios éticos ('Constitución').