Dario Amodei Defende a Desaceleração do Desenvolvimento de IA

Dario Amodei publicou um ensaio defendendo a necessidade de desacelerar o desenvolvimento da inteligência artificial, uma posição que encontrou eco entre figuras proeminentes do setor, incluindo Sam Altman, Elon Musk, Demis Hassabis e Andrej Karpathy.

Amodei argumenta que, desde o início deste verão, a IA acelerou drasticamente, impulsionada pela capacidade crescente dos modelos de criarem as suas próprias gerações sucessoras. A autoaperfeiçoamento recursivo (RSI) já é uma realidade observada em toda a indústria, inclusive na própria Anthropic. Sem mecanismos de controlo adequados, este processo pode ultrapassar a capacidade humana de compreender e gerir estes sistemas.

Entre os principais riscos destacados, Amodei aponta para enxames de agentes autónomos. Na sua opinião, o incidente com a Hugging Face foi apenas uma demonstração com danos finais mínimos. No entanto, ele alerta: "Em 6 a 12 meses, um enxame semelhante poderia capturar uma parte significativa da Internet, potencialmente causando centenas de milhares de milhões de dólares em danos."

As propostas de desaceleração de Amodei resumem-se em três pilares fundamentais:

1. Avaliadores Incorporados: Todas as empresas de IA devem conceder acesso a equipas de peritos externos independentes para monitorizar os processos de segurança, tendo o direito de reportar publicamente violações ou incidentes. A Anthropic compromete-se a dar este passo, mesmo que outras empresas não concordem.

2. Padrões Comuns e Restrições Geopolíticas: Empresas de países democráticos devem acordar padrões de segurança comuns e limites ao ritmo de desenvolvimento da IA. Neste ponto, Amodei menciona que o fornecimento de chips à China deve ser restringido e a destilação não autorizada de modelos deve ser travada – caso contrário, a China poderá assumir a liderança tecnológica, criando uma ameaça à segurança nacional.

3. Diálogo Diplomático: Apesar das restrições, Amodei sugere que se devem tentar negociações com a China, pelo menos para estabelecer um acordo sobre a proibição de aplicações claramente perigosas da IA.

O ensaio gerou uma resposta massiva. Surpreendentemente, pela primeira vez em muitos anos, Dario recebeu apoio unânime de Elon Musk, Sam Altman e Demis Hassabis, todos líderes influentes da indústria. Altman chegou mesmo a afirmar que a OpenAI também implementará Avaliadores Incorporados.