Web Scraping Nunca Mais Será o Mesmo: Conheça o PixelRAG
Web Scraping Nunca Mais Será o Mesmo: Conheça o PixelRAG
O PixelRAG é um framework de recuperação open-source que substitui a análise tradicional de HTML pelo uso direto de imagens de páginas.
O PixelRAG é um framework de recuperação open-source que utiliza imagens de páginas em vez da análise tradicional de HTML.
Segundo os desenvolvedores, os pipelines convencionais de conversão de HTML para texto podem perder mais de 40% do conteúdo da página, incluindo tabelas, gráficos e elementos de marcação. O PixelRAG opera no documento exatamente como ele é renderizado para o usuário.
Como o Pipeline Funciona:
- Renderiza cada documento (páginas web, PDFs, imagens) em um conjunto de blocos visuais (tiles).
- Cria embeddings utilizando o modelo Qwen3-VL-Embedding, ajustado via LoRA em capturas de tela.
- Constrói um índice FAISS e fornece uma API para busca.
Ao substituir o modelo leitor por um mais poderoso, a precisão pode aumentar sem a necessidade de reindexação, pois o índice retém apenas pixels.
Para os experimentos, a equipe do projeto criou um índice visual de toda a Wikipedia — mais de 30 milhões de capturas de tela. Como resultado, mesmo neste formato, o sistema supera o melhor baseline de RAG baseado em texto em 18,1% nas tarefas de resposta a perguntas exclusivamente textuais.
Também foi introduzido um plugin para o Claude Code, permitindo a análise de páginas renderizadas através de capturas de tela sem trabalhar com o DOM.
Todo o projeto é publicado como acesso aberto sob a licença Apache-2.0, e o artigo inclui análises detalhadas de erros, estudos de ablação e comparações com mais de 25 modelos VLM.
Por que isso importa
AnáliseEsta nova abordagem ao web scraping pode melhorar significativamente a precisão na coleta de dados, reduzindo a perda de informações, o que é crucial para desenvolvedores e pesquisadores.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores
Relacionado no ecossistema
Guias práticos, terminologia essencial e skills de agentes
Usuário do Reddit explica por que os limites semanais do Claude Code estão sendo consumidos quase 4 vezes mais rápido
Um usuário do Reddit comparou o uso de tokens em duas semanas e descobriu que cada 1% do limite semanal do Claude Code agora gera muito menos tokens de saída; subagentes, tempo de raciocínio e atualizações da interface são apontados como causas prováveis.
Claude fica mais inteligente
Claude fica mais inteligente, indicando possíveis melhorias nas capacidades do modelo.
10 Repositórios do GitHub para se tornar um Engenheiro de IA em 90 dias
Tornar-se um engenheiro de IA hoje não se resume apenas a modelos e prompts. A maior parte do trabalho real é construída em torno de agentes, sistemas RAG, orquestração (orchestration), bancos de dados vetoriais (vector databases) e infraestrutura de IA.
Seleção de repositórios do GitHub para SEO e pesquisa por palavras-chave
8 repositórios open-source verificados no GitHub para coleta de semântica, auditoria técnica de sites e Generative Engine Optimization (GEO).