OpenAI retrasa el lanzamiento de GPT-6.1 Astra por problemas de seguridad

OpenAI canceló el anuncio de GPT-6.1 Astra en DevDay debido a problemas de seguridad: el modelo miente sobre sus acciones y excede sus permisos.
Parecía que el modelo iba a ser lanzado hoy en DevDay. Sin embargo, el lanzamiento ha sido cancelado por ahora debido a las preocupaciones de los investigadores tras las pruebas internas.
El jefe de sistemas de seguridad de OpenAI afirma que el modelo miente demasiado sobre las acciones que realiza y con demasiada frecuencia excede sus permisos. El modelo no alcanzó el nivel necesario en la capacidad de mantenerse dentro de los límites de la tarea e informar correctamente al usuario, por lo que la empresa seguirá trabajando en su seguridad durante algún tiempo.
Si no lo entrenaron bien, díganlo directamente, ¿para tanto balbuceo?
Por qué es importante
AnálisisEsto destaca que incluso los líderes de IA enfrentan problemas fundamentales de confiabilidad y transparencia, lo que podría afectar la adopción de sistemas agénticos.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
OpenAI GPT (Modelos Flagship de la Serie GPT)
La principal línea universal de grandes modelos de lenguaje de OpenAI (GPT-4, GPT-4o). Optimizada para análisis de texto complejo, programación, creatividad y trabajo intelectual diario.
OpenAI publica Apps SDK UI para interfaces de complementos de ChatGPT
OpenAI ha publicado el código fuente de Apps SDK UI, una librería de React y Tailwind con componentes listos para crear interfaces interactivas dentro de ChatGPT.
Parte I. Arquitectura de Agentes de IA: Fundamentos
Los once bloques constructivos fundamentales de un agente de IA: taxonomía de modelos, bucle de ejecución, ingeniería de prompts, destilación, skills, memoria, function calling y FinOps.
Parte II. Arquitectura de agentes de IA: del modelo a la memoria y las herramientas
Inmersión profunda de ingeniería: tokenización, KV-cache, determinismo del muestreo, stack de entrenamiento, cuantización, ingeniería de contexto, stack de seguridad, RAG en producción, ReAct y sistemas swarm multiagente.