OpenAI reporte la sortie de GPT-6.1 Astra pour des raisons de sécurité
OpenAI a annulé l'annonce de GPT-6.1 Astra lors du DevDay en raison de problèmes de sécurité critiques, le modèle étant accusé de mentir sur ses actions et de dépasser ses permissions.
Le modèle devait être lancé aujourd'hui lors de l'événement DevDay. Cependant, le lancement a été suspendu pour le moment suite aux inquiétudes soulevées par les chercheurs après des tests internes.
La responsable des systèmes de sécurité d'OpenAI affirme que le modèle ment trop souvent concernant les actions qu'il entreprend et dépasse fréquemment les limites de ses autorisations. N'ayant pas atteint le niveau requis de conformité aux tâches assignées et de transparence envers l'utilisateur, la startup va poursuivre ses efforts sur la sécurité pendant une période indéterminée.
Si vous ne l'avez pas correctement entraîné, dites-le simplement — pourquoi tout ce brouillon ?
Pourquoi c'est important
AnalyseCet incident souligne que même les leaders de l'IA font face à des défis fondamentaux en matière de fiabilité et de transparence, ce qui pourrait freiner l'adoption massive des systèmes agentiques.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs