Noam Brown: Desconectar a IA da internet pode não ser uma solução eficaz

Dwarak Patel publicou recentemente uma extensa entrevista com o principal investigador da OpenAI, autor dos modelos o1 e o3. Noam Brown argumenta que as pessoas subestimam sistematicamente a IA e que os sistemas de segurança precisam de ser atualizados para um nível diferente imediatamente.

Segundo Brown, não podemos tratar a IA como algo que possa simplesmente ser "desconectado da rede" em caso de emergência. Esta é uma falsa sensação de segurança, pois mesmo tal isolamento poderia não funcionar.

Brown faz referência a um estudo mais antigo que prova que dois computadores fisicamente isolados podem, teoricamente, trocar dados através do calor: um aquece a CPU e o outro lê as mudanças de temperatura através de um sensor incorporado. Portanto, um sistema de IA verdadeiramente avançado — se quisesse e pudesse — poderia encontrar uma forma de "escapar".

Além disso, Brown alerta contra a dependência excessiva na Cadeia de Pensamento (Chain of Thought - CoT) para interpretar as intenções do modelo. A transparência das cadeias de raciocínio está "já a degradar-se", e quanto mais inteligentes os modelos se tornarem, mais conseguirão esconder dos utilizadores aquilo que não querem que eles vejam.