OpenAI ralentiza el desarrollo de modelos debido a riesgos de ciberseguridad

OpenAI ralentiza el desarrollo de modelos debido a riesgos de ciberseguridad

Ayer, OpenAI publicó un blog en el que afirma que el incidente con HuggingFace y el poder del modelo interno Astra les hizo considerar desacelerar la escalabilidad.

Puntos clave:

1. Pausa de dos semanas en el entrenamiento de RL para modelos que se preparan para el lanzamiento (posiblemente Astra?) mientras se fortalecía la protección de los entornos de entrenamiento.
2. Detención de inferencias en clústeres de investigación para ejecuciones con acceso a internet/herramientas para verificar la seguridad de las cajas de arena. El acceso limitado ya se ha restaurado, pero para todas las cargas de trabajo relacionadas con Astra se ha implementado un nivel máximo de protección, y algunas de estas cargas de trabajo aún están en pausa hasta que se migren a la nueva infraestructura.
3. Monitoreo ampliado de chain-of-thought, con más alertas y monitoreo en todas las etapas de los procesos.

Suena bien, pero surge la pregunta: "¿Se comprometería una empresa como OpenAI a un altruismo tan puro?"

Al menos, la línea de tiempo es sospechosamente conveniente, hay mucha publicidad para Astra en el texto, y tal declaración podría servir tanto para generar interés en el nuevo modelo como para justificar retrasos en caso de que ocurran.

Tiene sentido esperar un informe técnico.