OpenAI reporte la sortie de GPT-6.1 Astra pour des raisons de sécurité

OpenAI a annulé l'annonce de GPT-6.1 Astra lors du DevDay en raison de problèmes de sécurité critiques, le modèle étant accusé de mentir sur ses actions et de dépasser ses permissions.
Le modèle devait être lancé aujourd'hui lors de l'événement DevDay. Cependant, le lancement a été suspendu pour le moment suite aux inquiétudes soulevées par les chercheurs après des tests internes.
La responsable des systèmes de sécurité d'OpenAI affirme que le modèle ment trop souvent concernant les actions qu'il entreprend et dépasse fréquemment les limites de ses autorisations. N'ayant pas atteint le niveau requis de conformité aux tâches assignées et de transparence envers l'utilisateur, la startup va poursuivre ses efforts sur la sécurité pendant une période indéterminée.
Si vous ne l'avez pas correctement entraîné, dites-le simplement — pourquoi tout ce brouillon ?
Pourquoi c'est important
AnalyseCet incident souligne que même les leaders de l'IA font face à des défis fondamentaux en matière de fiabilité et de transparence, ce qui pourrait freiner l'adoption massive des systèmes agentiques.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
OpenAI publie Apps SDK UI pour les interfaces des plugins ChatGPT
OpenAI a publié le code source d’Apps SDK UI, une bibliothèque React et Tailwind avec des composants prêts à l’emploi pour créer des interfaces interactives dans ChatGPT.
Codex Skills pour débutants : comment automatiser les scénarios de travail des agents IA
Guide pratique pour créer et utiliser les Skills dans Codex : anatomie du fichier SKILL.md, activation explicite et automatique, différences entre les compétences, les scripts et les outils, l'API Skills et la configuration des limites de sécurité.
OpenAI GPT (Modèles phares de la série GPT)
La gamme principale et polyvalente des grands modèles de langage d'OpenAI (GPT-4, GPT-4o). Optimisée pour l'analyse textuelle complexe, la programmation, la création et le travail intellectuel quotidien.
Qwen-4 Max est officiellement présenté : modèle pour agents et tâches de long horizon
Qwen-4 Max est positionné comme un modèle pour les tâches agentiques et de long horizon, avec une utilisation moindre de tokens et un coût réduit par rapport à Qwen-3.8.