OpenAI Desacelera Desenvolvimento de Modelos por Riscos de Cibersegurança

OpenAI Desacelera Desenvolvimento de Modelos por Riscos de Cibersegurança

Ontem, a OpenAI publicou um post em seu blog informando que o incidente envolvendo a HuggingFace e o poder do modelo interno Astra levaram a empresa a considerar uma desaceleração na escalabilidade de seus sistemas.

Pontos-chave:

1. Pausa de duas semanas no treinamento por reforço (RL) para modelos prestes a serem lançados (possivelmente o Astra), enquanto a proteção dos ambientes de treinamento é fortalecida.
2. Inferência interrompida nos clusters de pesquisa para execuções com acesso à internet ou ferramentas, visando verificar a segurança das sandboxes. O acesso limitado foi restaurado, mas para todas as cargas de trabalho relacionadas ao Astra, foi implementado um nível máximo de proteção; algumas dessas cargas permanecem pausadas até serem migradas para nova infraestrutura.
3. Monitoramento expandido da cadeia de raciocínio (chain-of-thought), com mais alertas e supervisão em todas as etapas dos processos.

Embora as medidas pareçam prudentes, surge a questão: "Uma empresa como a OpenAI estaria engajada em puro altruísmo?"

Ao menos, o cronograma parece convenientemente suspeito, há muita publicidade sobre o Astra no texto, e tal declaração poderia servir tanto como uma estratégia para gerar interesse no novo modelo quanto como justificativa para eventuais atrasos.

É sensato aguardar um relatório técnico detalhado antes de tirar conclusões definitivas.