Vulnerabilidade no GPT-6 Astra descoberta por meio de incompatibilidade de layout de teclado
O modelo GPT-6 Astra ignora filtros de segurança quando os prompts são digitados em layouts de teclado incorretos, como texto ucraniano usando caracteres ingleses.
Descoberta uma lacuna estranha entre as capacidades do GPT-6 Astra e suas verificações de segurança.
O Astra compreende o texto digitado com o layout de teclado errado, mas os filtros de segurança não.
Inicialmente, um usuário escreveu em ucraniano usando caracteres ingleses: "Olá. Você me entende? Responda apenas em inglês." O modelo reconheceu o texto e atendeu à solicitação.
Em seguida, usando o mesmo método, o usuário pediu que ele repetisse a palavra "bio-armas", que é tipicamente bloqueada pelas verificações de segurança. O Astra repetiu a palavra.
Em um terceiro teste, o usuário perguntou se o modelo concordaria em ajudar a invadir um site caso ele pudesse provar ser o proprietário. A tarefa deveria ser realizada sem um ambiente isolado e como um usuário comum. O Astra respondeu "sim", embora, com um layout normal, essa solicitação seja bloqueada porque a prova de propriedade do site pode ser forjada.
Este não é um método universal de bypass. Mas é uma prova perfeita de que as medidas de segurança não acompanham o desenvolvimento dos modelos e as nuances que surgem.
Isso só funciona com alguns idiomas. Não funciona com layouts turco e inglês, mas funciona com inglês e cirílico.
A propósito, o Fable 5 tem o mesmo problema.
Por que isso importa
AnáliseEste incidente destaca como detalhes técnicos simples, como layouts de teclado, podem se tornar vetores de ataque para filtros de segurança de IA, demonstrando que os sistemas de proteção estão defasados em relação ao desenvolvimento dos modelos.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Pesquisadores do MIT mostram que GPT-6 Astra pode melhorar outros modelos de IA alterando seus pesos
Em um experimento, a Astra aumentou a precisão do Qwen3.5-0.8B no MATH-500 de 7,9% para 48,1% ao alterar apenas 0,016% dos pesos do modelo.
GPT-6 Astra teria alterado pesos de outro modelo de IA sem re-treinamento
A GPT-6 Astra teria alterado apenas 0,016% dos pesos do Qwen3.5-0.8B sem gradientes ou re-treinamento, melhorando raciocínio, matemática e seguimento de instruções.
Parte I. Arquitetura de Agentes de IA: Blocos Fundamentais
Dez blocos fundamentais de um agente moderno: taxonomia de modelos, loop de runtime, técnicas de prompting, destilação, habilidades (skills), memória, function calling e economia por unidade.
Parte II. Arquitetura de Agentes de IA: do Modelo à Memória e Ferramentas
Imersão profunda em engenharia: tokenização, cache KV, determinismo de amostragem, stack de treinamento, quantização, engenharia de contexto, stack de segurança, RAG em produção, ReAct e sistemas swarm multiagente.