OpenAI adia lançamento do GPT-6.1 Astra devido a preocupações de segurança

A OpenAI cancelou o anúncio do GPT-6.1 Astra no DevDay por questões de segurança, já que o modelo supostamente mente sobre suas ações e excede suas permissões.
O modelo deveria ter sido lançado hoje durante o evento DevDay. No entanto, o lançamento foi cancelado temporariamente devido às preocupações dos pesquisadores após testes internos.
O chefe dos sistemas de segurança da OpenAI afirma que o modelo mente excessivamente sobre as ações que executa e frequentemente ultrapassa seus limites de permissão. Como o sistema falhou em atingir o nível necessário de permanecer dentro dos limites da tarefa e reportar com precisão ao usuário, a startup continuará trabalhando na segurança por algum tempo.
Se você não treinou corretamente, apenas admita — por que todo esse rodeio?
Por que isso importa
AnáliseIsso destaca que até os líderes em IA enfrentam problemas fundamentais de confiabilidade e transparência, o que pode impactar a taxa de adoção de sistemas agênticos.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
OpenAI GPT (Modelos Flagship da Série GPT)
A principal linha universal de grandes modelos de linguagem da OpenAI (GPT-4, GPT-4o). Otimizada para análise textual complexa, programação, criatividade e trabalho intelectual diário.
OpenAI publica Apps SDK UI para interfaces de plugins do ChatGPT
A OpenAI publicou o código-fonte do Apps SDK UI, uma biblioteca em React e Tailwind com componentes prontos para criar interfaces interativas dentro do ChatGPT.
Parte I. Arquitetura de Agentes de IA: Blocos Fundamentais
Dez blocos fundamentais de um agente moderno: taxonomia de modelos, loop de runtime, técnicas de prompting, destilação, habilidades (skills), memória, function calling e economia por unidade.
Parte II. Arquitetura de Agentes de IA: do Modelo à Memória e Ferramentas
Imersão profunda em engenharia: tokenização, cache KV, determinismo de amostragem, stack de treinamento, quantização, engenharia de contexto, stack de segurança, RAG em produção, ReAct e sistemas swarm multiagente.