Meta FAIR apresenta e-means: algoritmo de clustering que supera o k-means
Meta FAIR apresenta e-means: algoritmo de clustering que supera o k-means
A Meta FAIR apresentou o e-means, um algoritmo de clustering que atinge a qualidade do k-means clássico em apenas 1,4–2,6 épocas e acelera bastante o trabalho com grandes bases de vetores.
O k-means continua sendo um dos algoritmos de ML mais utilizados: busca vetorial, RAG, clustering de embeddings, limpeza e balanceamento de datasets, quantização de pesos e KV-cache, criação de codebooks para tokens de imagens e áudio, análise de dados e detecção de anomalias. No entanto, com bilhões de vetores, cada passagem completa pelo k-means é muito cara.
Os autores propõem atualizar os centros dos clusters usando uma média móvel exponencial por batches. Para cada cluster, são armazenados o número de pontos e sua soma; a cada novo batch, esses valores são atualizados para que os dados recentes tenham mais peso e os antigos sejam gradualmente esquecidos. O centro do cluster continua sendo a média comum: a soma dividida pelo número de pontos.
Com isso, os centros começam a se mover já após os primeiros batches, e não após uma passagem completa pelos dados. O tamanho do batch e o passo de atualização são calculados por fórmulas prontas, sem necessidade de ajustar hiperparâmetros manualmente.
No final, o e-means atinge a qualidade do k-means clássico várias vezes mais rápido e até com uma perda ligeiramente menor. No maior teste — 10 bilhões de embeddings e 16 milhões de clusters — ele usou quase 9 vezes menos horas de GPU.
Isso é especialmente importante para sistemas RAG em bases enormes, onde a construção de índices pode exigir milhares de horas de GPU.
Por que isso importa
AnáliseUm clustering mais rápido pode reduzir o custo de indexar grandes bases vetoriais em sistemas RAG e outras cargas de IA baseadas em embeddings.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Filtragem por metadados em RAG (Metadata Filtering)
Técnica de busca combinada em bancos de dados vetoriais (Self-Querying Retriever). Permite combinar a busca semântica por significado com filtros rigorosos do banco de dados baseados em metadados: data de publicação, autor do documento, nível de acesso, idioma ou departamento da empresa.
Meta Llama (O Padrão Aberto de Inteligência Artificial)
A série principal de modelos de linguagem abertos da Meta (Llama 3, 3.3). Disponível para download gratuito, modificação e execução local em servidores próprios, sem restrições ou censura.
Jev e System One AI: guia prático completo sobre o modelo de decisão da TypeSafe
Análise técnica aprofundada do modelo principal Jev: arquitetura System One versus LLM, primitivos Choice/Score/Noul, paralelismo de requisições, matemática da confiança, casos de vídeo, código e visão geral de alternativas open-weight locais (Laya, GLiNER2.5, CLM-8B).
DeepSeek abre o código de parte da interface de chat
A DeepSeek publicou o código-fonte de parte da interface do seu chat, com busca na internet, modo de raciocínio profundo e histórico.