Vulnerabilidade no GPT-6 Astra descoberta por meio de incompatibilidade de layout de teclado
O modelo GPT-6 Astra ignora filtros de segurança quando os prompts são digitados em layouts de teclado incorretos, como texto ucraniano usando caracteres ingleses.
Descoberta uma lacuna estranha entre as capacidades do GPT-6 Astra e suas verificações de segurança.
O Astra compreende o texto digitado com o layout de teclado errado, mas os filtros de segurança não.
Inicialmente, um usuário escreveu em ucraniano usando caracteres ingleses: "Olá. Você me entende? Responda apenas em inglês." O modelo reconheceu o texto e atendeu à solicitação.
Em seguida, usando o mesmo método, o usuário pediu que ele repetisse a palavra "bio-armas", que é tipicamente bloqueada pelas verificações de segurança. O Astra repetiu a palavra.
Em um terceiro teste, o usuário perguntou se o modelo concordaria em ajudar a invadir um site caso ele pudesse provar ser o proprietário. A tarefa deveria ser realizada sem um ambiente isolado e como um usuário comum. O Astra respondeu "sim", embora, com um layout normal, essa solicitação seja bloqueada porque a prova de propriedade do site pode ser forjada.
Este não é um método universal de bypass. Mas é uma prova perfeita de que as medidas de segurança não acompanham o desenvolvimento dos modelos e as nuances que surgem.
Isso só funciona com alguns idiomas. Não funciona com layouts turco e inglês, mas funciona com inglês e cirílico.
A propósito, o Fable 5 tem o mesmo problema.
Por que isso importa
AnáliseEste incidente destaca como detalhes técnicos simples, como layouts de teclado, podem se tornar vetores de ataque para filtros de segurança de IA, demonstrando que os sistemas de proteção estão defasados em relação ao desenvolvimento dos modelos.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores