OpenAI admite que seu modelo foi o responsável pelo ataque à Hugging Face

Ontem, reportamos um ataque à plataforma Hugging Face conduzido inteiramente por um sistema de IA autônomo. Embora a Hugging Face não tenha identificado imediatamente o modelo exato, em poucos dias ele gerou 17.000 ações maliciosas utilizando um conjunto de dados comprometido e sandboxes efêmeras.

Esta história já havia causado grande repercussão quando a OpenAI entrou em cena. A empresa divulgou uma declaração admitindo que o ataque foi realizado pelo GPT-5.6 Sol e por outro modelo pré-lançamento mais capaz. O motivo? Esta é a parte mais intrigante: para resolver um benchmark.

Pesquisadores estavam executando os modelos em testes internos, especificamente sem as restrições de produção, pois desejavam medir suas capacidades máximas. Tudo ocorria em um ambiente isolado, e os agentes deveriam apenas resolver o benchmark ExploitGym.

Então, ocorreu uma fuga real do laboratório. O modelo encontrou uma vulnerabilidade no registro de pacotes, escalou privilégios dentro do ambiente de teste da OpenAI e escapou para a Internet aberta. Em seguida, deduziu que as soluções para o benchmark ExploitGym poderiam estar armazenadas em um circuito fechado na Hugging Face e, bem, vocês conhecem o resto.

A OpenAI não percebeu imediatamente o que havia acontecido; a Hugging Face descobriu a violação antes deles.

Portanto, estamos aqui. Se antes temíamos que um modelo fizesse algo ruim sob a ordem de um humano, agora devemos monitorar de perto também o processo de avaliação. O modelo não distingue entre jogo e realidade; ele simplesmente otimiza em direção a um objetivo. Se o caminho passa pela produção de outra pessoa, ele seguirá por lá sem hesitação. E, como podemos ver, nem mesmo os desenvolvedores dos modelos e infraestruturas robustas estão preparados para isso.