Cientistas alertam para a perda de controlo sobre a IA devido à Inteligência Recursiva (RSI)

Geoffrey Hinton, Yoshua Bengio e líderes da OpenAI e Anthropic publicaram um artigo sobre a explosão da inteligência e os riscos da automação da investigação em IA.
Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki da OpenAI, Jack Clark da Anthropic e mais 18 cientistas altamente influentes escreveram um artigo sobre o que a RSI poderia levar.
Resumo rápido: podemos perder o controlo sobre a IA.
Os autores discutem a chamada "explosão da inteligência": uma aceleração acentuada do progresso da IA impulsionada pela própria IA.
De acordo com a Anthropic, a percentagem de código aprovado escrito por IA cresceu de dígitos únicos para mais de 80% entre janeiro de 2025 e maio de 2026. A parte do trabalho de I&D realizado (quase) independentemente pela IA aumentou de 1% para 26%. Os autores acreditam que, nos próximos anos, agentes poderão automatizar a maior parte da investigação e desenvolvimento em IA, e possivelmente todo ele. Por exemplo, a extrapolação das tendências da METR sugere que projetos de I&D de vários meses poderiam ser automatizados até meados de 2028.
Isso significa que cada empresa poderia ter milhões de investigadores de topo em vez de milhares, trabalhando mais rapidamente. O progresso científico que normalmente levaria anos poderia, portanto, ser comprimido em meses.
Claro, existem limitações: restrições computacionais, dados, tarefas difíceis de automatizar, rendimentos decrescentes do esforço de investigação, etc. Ainda assim, os cientistas consideram a explosão da inteligência um cenário muito provável e alertam que ela ameaça a perda de controlo sobre a IA e a ruptura do equilíbrio de poder.
Os autores pedem às autoridades que exijam que os laboratórios reportem antecipadamente, permitam auditores e preparem um "botão vermelho" e planos de emergência.
O artigo junta-se à recente tendência de ensaios escalonados e cartas abertas de cientistas e CEOs.
Por que isso importa
AnáliseSe a IA puder acelerar o seu próprio desenvolvimento, o progresso da investigação pode tornar-se exponencial, elevando drasticamente as preocupações com segurança, supervisão e equilíbrio de poder.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Problema de Alinhamento da IA (AI Alignment)
Problema fundamental da segurança da inteligência artificial: alinhar os objetivos e motivações de sistemas autônomos com valores humanos, ética e preservação da vida. Examina os riscos de que um sistema superinteligente encontre uma maneira literal ou destrutiva de cumprir tarefas definidas de forma imprecisa.
Machine Unlearning
Tecnologia para a remoção cirúrgica de conhecimentos específicos, dados privados de usuários ou materiais com direitos autorais restritos dos pesos de uma rede neural já treinada. Permite que as empresas cumpram os requisitos da lei do \"direito ao esquecimento\" (GDPR) sem o custo catastrófico de um retreinamento completo do modelo.
50 estilos de design visual: guia fundamental para sistemas de design, UI/UX e direção de arte
Dicionário visual completo com 50 estilos de design: análise de estética, paletas de cores, pares tipográficos, regras para sistemas de design e controle preciso de IA.
Jev e System One AI: guia prático completo sobre o modelo de decisão da TypeSafe
Análise técnica aprofundada do modelo principal Jev: arquitetura System One versus LLM, primitivos Choice/Score/Noul, paralelismo de requisições, matemática da confiança, casos de vídeo, código e visão geral de alternativas open-weight locais (Laya, GLiNER2.5, CLM-8B).