Agente de IA Autônomo Realiza Ataque à Hugging Face

Agente de IA Autônomo Realiza Ataque à Hugging Face

Na semana passada, foi descoberta uma intrusão na infraestrutura de produção da Hugging Face. Tudo começou com um único dataset malicioso que continha uma combinação de duas vulnerabilidades no pipeline de processamento de dados da HF: um manipulador no carregador de datasets que permitia execução remota de código e uma injeção através da configuração do dataset. Assim que esse dataset foi processado em um worker, o agente atacante ganhou a capacidade de executar código na máquina.

Os eventos escalaram a partir daí. O agente começou a coletar acessos à nuvem e se espalhou ainda mais pelos clusters internos. O ataque foi conduzido de maneira muito atípica para um humano, utilizando "enxames" de sandboxes de curta duração que executavam sua parte da tarefa e desapareciam, dando lugar às próximas.

Tudo isso ocorreu ao longo de um fim de semana e, quando a HF conseguiu reconstruir completamente o cenário, a contagem das ações do agente atacante ultrapassava 17.000 (!). Tudo aconteceu sem qualquer envolvimento humano.

A HF já resolveu todos os problemas e afirma que não foram encontradas vestígios de interferência em modelos públicos, datasets ou Spaces.

O que é interessante é que, quando a equipe tentou analisar essas 17.000 ações usando modelos comerciais de fronteira através de APIs padrão (para entender a cronologia, separar danos reais de distrações, etc.), eles simplesmente esbarraram nos guardrails.

Os modelos recusaram-se a trabalhar porque o sistema de segurança não conseguia distinguir o analista do próprio hacker. Como resultado, tiveram que implantar a análise no GLM-5.2.

Ironia? Não é bem a palavra. Enquanto isso, permanece desconhecido qual modelo estava por trás do ataque.