NVIDIA resolve o principal dilema dos LLMs modernos

Ao trabalhar com qualquer LLM, é necessário escolher entre velocidade e qualidade. Modelos autoregressivos, como o GPT, oferecem alta qualidade, mas operam lentamente porque geram um token por vez.

Os modelos de difusão funcionam da maneira oposta. Eles geram blocos inteiros em paralelo, tornando-os mais rápidos, mas essa velocidade vem à custa da qualidade.

Este é o problema que os pesquisadores da NVIDIA visaram resolver.

Eles pegaram um modelo de 30B parâmetros e o dividiram em duas partes para gerar tokens em paralelo, em vez de um por um. Assim nasceu o Nemotron-Labs-TwoTower — um modelo de linguagem de difusão da NVIDIA Research, adaptado com base no Nemotron-3-Nano-30B-A3B.

Mas antes de entender como o TwoTower funciona, é essencial compreender por que os LLMs de difusão ficam atrás dos autoregressivos.

Um LLM de difusão começa com um bloco de tokens mascarados e os revela ao longo de várias passadas. Em cada passada, ele lê todo o texto já gerado enquanto simultaneamente prevê os tokens mascarados no bloco atual. Isso significa que a mesma rede executa duas tarefas completamente diferentes ao mesmo tempo. Ela deve entender o contexto existente enquanto prevê tokens que ainda não existem.

Um conjunto de pesos é direcionado para duas tarefas distintas, então a rede não consegue se especializar totalmente em nenhuma delas.

O TwoTower resolve esse problema ao não forçar uma única rede a executar ambas as tarefas. Em vez disso, o modelo autoregressivo pré-treinado é dividido em duas torres.

1. Torre de Contexto

Esta é a parte congelada do modelo que lê todo o texto já gerado, exatamente como o modelo original fazia. Ela não é mais treinada, preservando assim integralmente as capacidades intelectuais do modelo.

2. Torre Denoiser (Denoisadora)

Esta é a parte treinável do modelo que gera cada novo bloco de tokens em paralelo. Para manter o contexto, ela usa constantemente atenção cruzada (cross-attention) com a Torre de Contexto.

A parte mais interessante é como essas duas torres interagem. Elas estão conectadas camada por camada: a quinta camada da Torre Denoiser interage com a quinta camada da Torre de Contexto, a sexta com a sexta, e assim por diante. Isso permite que a Denoiser acesse toda a representação multinível do contexto do modelo base, não apenas sua representação oculta final.

Resultados:

• 2,42 vezes maior throughput de geração
• 98,7% de retenção de qualidade em relação ao modelo original
• Arquitetura construída sobre um modelo híbrido de 30B Mamba–Transformer MoE
• Apenas cerca de 2,1 trilhões de tokens foram usados para treinamento — apenas uma fração dos 25 trilhões de tokens usados no pré-treinamento do modelo original

Essa última figura é particularmente importante. Nenhum dos componentes foi treinado do zero. Esta é uma adaptação que pode ser adicionada a um modelo autoregressivo já existente. Ela transforma, de forma relativamente barata, a decodificação lenta de um token por vez em uma geração rápida e paralela de blocos.

Portanto, para sistemas sensíveis à latência, esta é uma abordagem definitivamente digna de exploração. Não é mais necessário escolher entre um modelo confiável e a velocidade necessária.

Pesos, código e metodologia de treinamento estão publicados em acesso aberto.

Artigo:

https://arxiv.org/pdf/2606.26493