Claude recusou uma tarefa por causa da palavra “cyber”
Uma breve observação de que o Claude se recusou a executar uma tarefa por causa da palavra “cyber”.
O trecho descreve uma reação muito breve: 0,03 segundos depois de o Claude se recusar a executar uma tarefa por causa da palavra “cyber”.
Isso pode ser lido como uma piada ou como uma observação sobre os filtros de segurança e moderação em modelos de IA, que às vezes reagem a palavras ou termos individuais, mesmo quando o contexto da solicitação não é prejudicial.
Por que isso importa
AnáliseMostra como os mecanismos de segurança da IA podem afetar a experiência do usuário por sensibilidade excessiva a certas palavras.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Anthropic gasta mais no uso interno do Claude do que em salários
No seu documento de IPO, a Anthropic revelou que o uso interno do Claude superou os salários dos funcionários quando calculado às tarifas para clientes.
Claude fica mais inteligente
Claude fica mais inteligente, indicando possíveis melhorias nas capacidades do modelo.
Controle do Computador por IA (Computer Use)
Tecnologia da Anthropic (apresentada nos modelos Claude 3.5 Sonnet) que permite à rede neural controlar o sistema operacional como um ser humano: tirar capturas de tela, analisar coordenadas de janelas, mover o cursor do mouse, clicar em botões e inserir texto sem o uso de APIs específicas.
Constitutional AI (RLAIF)
An alignment method developed by Anthropic (the creators of Claude). Instead of relying on millions of hours of human labor, the model critiques and revises its own responses based on a clear set of ethical principles (the \"Constitution\").