Agente de IA para programação lançado no navegador com modelo de 2 bilhões de parâmetros
Desenvolvedores lançaram o Pi, um agente de codificação que opera totalmente no navegador via WebGPU, utilizando o modelo MiniCPM5-2B.
Um agente completo de Inteligência Artificial para programação foi lançado diretamente no navegador, baseado em um modelo com apenas 2 bilhões de parâmetros.
O Pi funciona inteiramente dentro do navegador utilizando a tecnologia WebGPU. A ferramenta é construída sobre o modelo MiniCPM5-2B, a biblioteca Transformers.js e pesos ONNX de 4 bits.
Tentativas anteriores de criar esse tipo de agente falharam devido à insuficiência de poder dos modelos, mas o MiniCPM5 demonstrou ser eficiente o suficiente para tornar a ferramenta adequada para tarefas reais.
O modelo carrega uma única vez e ocupa aproximadamente 1,84 GB de memória. Após o carregamento, o agente pode trabalhar com seus arquivos diretamente no navegador, sem exigir um servidor potente ou instalação local.
É possível testar a ferramenta agora no Hugging Face.
Por que isso importa
AnáliseEste lançamento destaca o potencial dos Pequenos Modelos de Linguagem (SLMs) para oferecer assistência de código de alta qualidade diretamente no navegador, reduzindo significativamente os custos de infraestrutura e a latência.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores