Hinton, Bengio e mais 20 pesquisadores publicam estudo sobre a explosão da inteligência
Um artigo com 22 autores argumenta que a IA pode acelerar seu próprio desenvolvimento a ponto de comprimir anos de progresso em meses, exigindo mecanismos de supervisão preventiva.
Geoffrey Hinton, Yoshua Bengio e outros 20 pesquisadores publicaram um artigo sobre a "explosão da inteligência". O trabalho, originado em Cambridge, conta com 22 autores, incluindo o Cientista-Chefe da OpenAI, Jakub Pachocki, e o cofundador da Anthropic, Jack Clark. A questão central é: o que acontece se a IA começar a acelerar tanto o desenvolvimento de novas IAs que anos de progresso sejam comprimidos em meses?
O artigo parte do que já está ocorrendo dentro dos laboratórios. Na Anthropic, a porcentagem de código escrita por modelos cresceu de dígitos únicos para mais de 80% desde o início de 2025, enquanto a parcela de tarefas de P&D realizadas autonomamente pela IA aumentou de 1% para 26% em seis meses.
A lógica da explosão é simples: os modelos expandem a força de trabalho de pesquisa, essa força de trabalho melhora os modelos, e o ciclo se repete. O poder computacional de um único laboratório seria suficiente para igualar milhões de pesquisadores de elite. Se as taxas históricas de retorno à pesquisa persistirem, após a automação completa, o progresso poderia acelerar dez vezes em aproximadamente um ano e meio.
Esse cenário pode não se materializar se encontrar limites em computação, dados ou duração do pré-treinamento, mas os autores consideram os riscos sérios. A sociedade pode falhar em se adaptar, as pessoas podem perder o controle sobre os modelos e o líder da corrida pode obter uma vantagem excessiva.
Os autores recomendam que os reguladores exijam que os laboratórios reportem o grau de automação de P&D e permitam que auditores externos inspecionem os modelos antes da implantação interna. Também sugerem preparar mecanismos de desaceleração antecipadamente: limites ao crescimento de capacidades em um período específico, a capacidade de pausar cargas de trabalho específicas em data centers e acordos internacionais com verificação de conformidade.
Se a explosão começar, dizem os autores, pode ser tarde demais para decidir qualquer coisa.
Por que isso importa
AnáliseIsso importa porque enquadra a autoaceleração da IA como um problema de governança: se a automação de P&D se compõe exponencialmente, os cronogramas regulatórios e de segurança existentes podem ser lentos demais.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores