DeepSeek lança stack totalmente aberta para acelerar a geração de LLMs
DeepSeek lança stack totalmente aberta para acelerar a geração de LLMs
A DeepSeek disponibilizou uma nova stack open-source que inclui o algoritmo DSpark, projetado para aumentar significativamente a velocidade de geração de modelos de linguagem. A solução oferece um pipeline completo de dados, treinamento e avaliação, prometendo ganhos de desempenho substanciais sem comprometer a qualidade.
A DeepSeek acaba de liberar uma stack completa e aberta para a geração de Modelos de Linguagem de Grande Escala (LLMs). O repositório contém algoritmos prontos para uso, além de ferramentas para treinamento, avaliação e até mesmo um pipeline de dados integrado, tornando a implementação extremamente prática.
O código está disponível em: github.com/deepseek-ai/DeepSpec
O Algoritmo DSpark
O cerne desta inovação reside no algoritmo DSpark. A DeepSeek já utiliza esta tecnologia em produção nos modelos DeepSeek-V4 Flash e Pro. Segundo os dados oficiais da empresa, a velocidade de geração percebida pelos usuários aumentou entre 60% e 85% em comparação com a linha de base anterior.
Como funciona?
- Modelo de Rascunho (Draft Model): Fundamentalmente, o sistema utiliza um modelo menor que gera rascunhos preliminares para o LLM principal.
- Abordagem em Duas Etapas: Embora o uso de draft models seja uma tendência atual, a DeepSeek eleva essa técnica a um novo nível. O modelo de rascunho opera em duas fases:
- Primeiro, um bloco de tokens é coletado em paralelo.
- Em seguida, um módulo Markov leve refina as dependências entre os tokens vizinhos. Isso garante que o gerador de rascunhos opere rapidamente sem perder precisão nas caudas da distribuição de probabilidade.
- Verificação Adaptativa: Após o rascunho ser esboçado, o LLM principal verifica o conteúdo, aceitando apenas o prefixo correto e ajustando o restante. O DSpark decide dinamicamente quantos tokens enviar para verificação, baseando-se nas estimativas de confiança dos tokens e na carga atual do hardware.
Resultados
O resultado final é uma aceleração de pelo menos 1,5 vezes, sem qualquer perda de qualidade. Esta contribuição representa um marco importante no cenário de código aberto, demonstrando o compromisso da DeepSeek com a otimização eficiente de recursos computacionais.
Por que isso importa
AnáliseEsta nova stack da DeepSeek tem o potencial de transformar as abordagens atuais para a geração de LLMs, reduzindo drasticamente o tempo de processamento sem sacrificar a qualidade. Para desenvolvedores e empresas que operam nesta área, isso significa maior eficiência operacional e custos de infraestrutura mais baixos.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Geração de Dados Sintéticos e Pré-treinamento
Tecnologia para geração, filtragem automática e verificação formal de datasets de treinamento utilizando inteligência artificial, visando superar a escassez de dados humanos de alta qualidade.
Kimi K3.1 Pro: Moonshot atualiza modelo para ferramentas 3D
Moonshot lançou o Kimi K3.1 Pro com foco em ferramentas 3D, pós-treinamento atualizado e arquitetura Gated DSA para melhorar a eficiência em contextos longos.
Revolut move cerca de 2.000 engenheiros para modelos GLM locais para programação
A Revolut migrou cerca de 2.000 engenheiros para modelos GLM implantados localmente, reduzindo o custo de codificação com IA em cerca de dez vezes e o tempo de execução das tarefas em 70%.
Parte I. Arquitetura de Agentes de IA: Blocos Fundamentais
Dez blocos fundamentais de um agente moderno: taxonomia de modelos, loop de runtime, técnicas de prompting, destilação, habilidades (skills), memória, function calling e economia por unidade.