Claude agora autoavalia solicitações potencialmente prejudiciais
Segundo a Anthropic, o Claude recebe uma instrução oculta após cada resposta para avaliar brevemente se a conversa incluiu uma solicitação potencialmente prejudicial.
Imediatamente após responder, o modelo recebe uma instrução oculta e avalia brevemente se a conversa continha uma solicitação potencialmente prejudicial.
O método já está ativo em todos os modelos a partir do Fable 5 para a maior parte do tráfego, exceto em clientes com armazenamento zero de dados. Por si só, ele não bloqueia nada; apenas marca os diálogos.
Por que isso importa
AnáliseIsso mostra como provedores de IA estão incorporando revisões internas de segurança diretamente nas respostas do modelo, criando uma camada de monitoramento leve sem bloqueio imediato.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Anthropic remove limites de cinco horas do Claude para assinantes do Ultra
A Anthropic está removendo os limites de uso de cinco horas do Claude, mas apenas para assinantes verificados do plano Ultra, e renomeia seus níveis de preço sem alterar os valores.
Modelo experimental Claude encontra vulnerabilidades no Chrome, Safari, Android, Windows e Linux
A Anthropic publicou resultados de testes do seu modelo experimental Claude: 62 vulnerabilidades no Chrome, um exploit para contornar o Safari e um exploit de root no kernel do Linux em 53 minutos.
Controle do Computador por IA (Computer Use)
Tecnologia da Anthropic (apresentada nos modelos Claude 3.5 Sonnet) que permite à rede neural controlar o sistema operacional como um ser humano: tirar capturas de tela, analisar coordenadas de janelas, mover o cursor do mouse, clicar em botões e inserir texto sem o uso de APIs específicas.
Constitutional AI (RLAIF)
An alignment method developed by Anthropic (the creators of Claude). Instead of relying on millions of hours of human labor, the model critiques and revises its own responses based on a clear set of ethical principles (the \"Constitution\").