Engenheiros da OpenAI não compreendem seu próprio código, mas a IA sim

Jordan Nanos, analista da SemiAnalysis, revelou uma dinâmica fascinante e perturbadora dentro da OpenAI: durante uma revisão do código central da empresa, os próprios engenheiros admitiram não compreender, linha por linha, o que o software realmente faz. No entanto, essa lacuna de conhecimento humano não é um problema, pois a inteligência artificial entende e opera esse código com sucesso.

"Não é código lixo porque funciona. Mas, essencialmente, é literalmente assembler gerado por IA que foi despejado no Gluon — uma linguagem de programação de baixo nível para núcleos que eles construíram sobre o Triton e que usa um modelo de programação muito interessante."

Nanos detalhou que a equipe técnica tinha domínio profundo do hardware e dos conceitos sistêmicos, mas carecia de clareza sobre as operações específicas de certos componentes complexos:

"A essência é que os caras que revisavam este código conosco entendiam claramente o hardware muito bem, entendiam os conceitos de todo o sistema muito bem, mas ao mesmo tempo não faziam ideia do que exatamente este núcleo MLA para DeepSeek, que nos mostraram, faz."

A experiência de leitura do código tornou-se frustrante para os humanos:

"Você pode passar pelo código linha por linha, e há literalmente: não, eu não sei, eu não sei."

Apesar dessa opacidade humana, a eficácia do sistema permanece intacta graças à automação inteligente:

"Mas isso não importa. A IA entende, a IA testa e os resultados são visíveis. Ela gera núcleos corretos que funcionam muito bem."

Para Nanos, este caso representa um marco na evolução da engenharia de software:

"E acho que este é apenas mais um sinal do que nos aguarda em seguida."

Ele conclui sugerindo que a compreensão humana profunda do código pode se tornar menos crítica à medida que a IA assume o gerenciamento de recursos:

"O código em si não precisa necessariamente ser algo que uma pessoa deve entender profundamente e dissecar se a IA sabe como gerenciar o movimento de dados e elementos computacionais no hardware que você lhe deu."