Skip to main content
Conteúdo do guia

Conteúdo do guia

Tempo de leitura: 30 min
#jev#typesafe-ai#system-one#decision-models#ai-agents#local-models#open-source#laya#typescript#python
NOVOAvançado30 min

Jev e System One AI: guia prático completo sobre o modelo de decisão da TypeSafe

Análise técnica aprofundada do modelo principal Jev: arquitetura System One versus LLM, primitivos Choice/Score/Noul, paralelismo de requisições, matemática da confiança, casos de vídeo, código e visão geral de alternativas open-weight locais (Laya, GLiNER2.5, CLM-8B).

Publicado:
PARA AGENTE DE IAChatGPTClaude

A indústria moderna de inteligência artificial tem avançado por muito tempo pela escalonamento de modelos generativos. Acostumamo-nos a utilizar grandes modelos de linguagem (LLMs) de nível GPT-6.1 Sol, Claude Opus 5.5, Claude Fable ou Gemini 3.8 Flash para qualquer tarefa: desde a redação de ensaios até o parsing de status de pedidos. No entanto, quando se trata de construir software robusto, a geração de texto torna-se um gargalo: os modelos gastam segundos desdobrando tokens passo a passo, alucinam JSON inválido, exigem expressões regulares infinitas e custam caro demais para arquiteturas de microsserviços.

Jev, do laboratório TypeSafe AI, é o primeiro modelo do mundo de uma nova classe, conhecida como System One AI. Ele não gera texto. A Jev foi criada exclusivamente para decisões estruturais, tipadas e instantâneas dentro de sistemas de software: classificação, roteamento, pontuação baseada em rubricas, verificação de hipóteses e firewalls para agentes, com latência de aproximadamente 100 ms e custo de $0.042 por 1 milhão de tokens.

Neste guia, nós, como praticantes, dissecaremos a tecnologia Jev nos mínimos detalhes: a diferença fundamental entre System One e System Two, os três primitivos principais, a matemática da confiança calibrada, padrões de arquitetura, pipelines prontos em TypeScript e Python, além de estudarmos 10 casos reais inovadores com recibos de custos e demonstrações em vídeo.

Nota

Ferramentas práticas do Sr. Yuriy (@yuriisams):
Para uso prático da Jev em CLI de IA terminal, baixe o arquivo da versão 0.1.2 do autor com hook pronto para roteamento automático de modelos e seleção dinâmica de skills (suporta Claude Code, Codex, Antigravity):
Baixar arquivo completo jev_0.1.2.zip (33 KB) →

Demonstração de velocidade da TypeSafe Jev: verificação instantânea de afirmações com latência de 69–83 ms e confiança calibrada ЗбільшитиDemonstração de velocidade da TypeSafe Jev: verificação instantânea de afirmações com latência de 69–83 ms e confiança calibradaDemonstração de velocidade da TypeSafe Jev: verificação instantânea de afirmações com latência de 69–83 ms e confiança calibrada

1. Mudança de Paradigma: System One vs LLMs Clássicos (System Two)

O nome do conceito vem da psicologia cognitiva e do trabalho fundamental do laureado com o Nobel Daniel Kahneman, "Thinking, Fast and Slow".

Kahneman divide o pensamento humano em dois sistemas:

  • Sistema 1 (System One): Rápido, intuitivo, automático, reação quase instantânea a padrões conhecidos (por exemplo, identificar a expressão facial do interlocutor, detectar perigo na estrada, distinguir spam de email importante em uma fração de segundo).
  • Sistema 2 (System Two): Trabalho lento, consciente, analítico, que exige concentração de esforço e passos sequenciais (resolver equações, escrever documentos de arquitetura, provar teoremas logicamente).
mermaid
flowchart TD subgraph Classic["Класичний LLM-підхід (System Two)"] direction TB Input1["Промпт + Неструктуровані дані"] --> Autoreg["Авторегресивна генерація токен за токеном (1500–4000 мс)"] Autoreg --> Prose["Текстова відповідь або JSON у Markdown-паркані"] Prose --> Parser{"Парсинг JSON / Regex"} Parser -->|Синтаксична помилка / Зламаний JSON| Retry["Повторний запит / Retry Loop (+$0.03)"] Parser -->|Валідно| App1["Бізнес-логіка програми"] end subgraph SystemOneFlow["Підхід TypeSafe Jev (System One)"] direction TB Input2["State (Контекст) + Набір типізованих питань"] --> JevEngine["Оцінка логітів і ймовірностей у паралелі (~100 мс)"] JevEngine --> DirectOutput["Типізовані значення + Розподіл ймовірностей + Confidence"] DirectOutput --> App2["Детермінований код (if / switch / weights)"] end

Por que LLMs generativos quebram pipelines de software

A maioria das decisões em serviços backend não são ensaios filosóficos, mas sim escolhas discretas específicas:

  • "Esta transação é suspeita?" (true ou false).
  • "Para qual departamento direcionar este ticket: billing, suporte técnico ou vendas?" (billing | tech | sales).
  • "Quão irritado está o cliente na escala de 1 a 5?" (1..5).

Quando um engenheiro força um modelo generativo pesado como GPT-6.1 Sol, Claude Opus 5.5 ou Claude Fable a responder a essas perguntas, surge uma incompatibilidade fundamental da natureza da ferramenta:

  • Latência autoregressiva: O modelo é obrigado a gerar tokens sequencialmente, um após o outro. Mesmo uma resposta curta leva 1.5–3 segundos devido às esperas de rede e quanta de geração.
  • Fragilidade do JSON Mode: Modelos generativos frequentemente adicionam comentários, omitem aspas ou envolvem a resposta em ```json ... ```, forçando os desenvolvedores a escrever sanitizers complexos e mecanismos de retry.
  • Ineficiência econômica: Você paga pelo custo total dos tokens de saída (output tokens), que nas APIs comerciais custam 3–5 vezes mais que os tokens de entrada.
  • Degradação de atenção (Context Rot): Se você fizer várias perguntas sequenciais ao modelo no mesmo chat, o contexto crescente dilui a atenção e aumenta a probabilidade de erro.
Nota

Princípio da Jev: A Jev não possui mecanismo de geração autoregressiva de texto para o usuário. O modelo lê o estado de entrada (state), passa-o através de um transformer e calcula distribuições normalizadas de probabilidades sobre categorias pré-definidas em um único passe direto. O resultado é retornado imediatamente como uma estrutura de dados estritamente tipada.


2. Economia, Velocidade e Benchmarks: $0.042 por 1M de Tokens e 100 ms

A economia da Jev muda as regras do jogo para serviços de alta carga. Em vez de pagar por cada palavra de saída, os desenvolvedores pagam exclusivamente pelos tokens de entrada.

Tabela comparativa de custos e características

CaracterísticaTypeSafe Jev 1.13OpenAI GPT-6.1 SolAnthropic Claude Opus 5.5Google Gemini 3.8 Flash
Classe de ArquiteturaSystem One (Decision)System Two (Generative)System Two (Generative)System Two (Generative)
Custo Tokens Entrada (1M)$0.042$3.00$5.00$0.10
Custo Tokens Saída (1M)$0.00 (Grátis!)$12.00$25.00$0.40
Latência Típica (P50)~90–120 ms1200–2400 ms1400–2800 ms400–700 ms
Limites de Throughput100K tok/s, 40 RPSDepende do TierDepende do TierDepende do Tier
Janela de Contexto da Requisição64 000 tokens256 000 tokens500 000 tokens2 000 000 tokens
Necessidade de Parsing de RespostasNenhuma (Tipos Nativos)JSON.parse / RegexJSON.parse / RegexJSON.parse / Regex
Importante

Tokens de saída gratuitos: Como a Jev não gera texto livre, a TypeSafe cobra apenas pelo contexto de entrada (state + pergunta). 1 bilhão de tokens processados custa apenas $42. Para comparação, o mesmo volume na GPT-6.1 Sol ou Claude Opus 5.5 custaria no mínimo $3,000 – $7,500.

Benchmark Real: MotherDuck (Classificação de Texto SQL)

A equipe da nuvem de banco de dados analítico MotherDuck integrou a função prompt_jev() diretamente no dialeto SQL para classificação de registros de texto em escala industrial.

Resultados do teste em um array de 100 000 linhas:

  • Frontier-LLM clássico: tempo de execução — 32 minutos, custo computacional — $37.00.
  • TypeSafe Jev: tempo de execução — 40 segundos, custo computacional — $0.50.
  • Resumo: A Jev executou a tarefa 48 vezes mais rápido e 74 vezes mais barata, demonstrando paridade completa em qualidade de classificação.

3. Anatomia da Requisição: Structured State e Endereçamento Dot-Path Preciso

Uma requisição à Jev consiste em dois componentes fundamentais:

  1. state (estado): O contexto da tarefa como texto simples, string ou documento JSON aninhado (log de eventos, transação, perfil de usuário, código, conteúdo da página).
  2. questions (conjunto de perguntas): Um dicionário de perguntas que o modelo deve avaliar simultaneamente sobre o estado fornecido.

Princípio de Isolamento de Contexto e Prevenção de Context Rot

Um erro clássico ao trabalhar com grandes modelos é enviar todo o histórico de diálogos anteriores e prompts de sistema. Na Jev, vigora a regra de higiene rigorosa de contexto: transfira para o state apenas os dados necessários para tomar decisões específicas. O modelo recebe o estado uma vez e calcula todas as perguntas em paralelo.

Endereçamento Preciso via Caminhos Dot-and-Index

Quando seu state é um objeto JSON estruturado complexo, você pode referenciar campos específicos e elementos de arrays diretamente no texto da pergunta usando backticks:

json
{ "state": { "account": { "id": "acc_8921", "tier": "enterprise", "risk_score": 12 }, "transaction": { "id": "tx_441", "amount_usd": 12500, "country": "UA", "merchant": "Cloud Infrastructure Ltd" }, "security_policy": "Транзакції понад $10,000 для акаунтів enterprise дозволені, якщо risk_score нижче 20." }, "questions": { "policy_allows_tx": { "type": "noul", "instructions": "Чи дозволяє `security_policy` проведення транзакції `transaction.amount_usd` з огляду на `account.tier` та `account.risk_score`?" }, "country_anomaly": { "type": "noul", "instructions": "Чи є `transaction.country` неочікуваною або підозрілою локацією для постачальника `transaction.merchant`?" } } }

O modelo Jev é otimizado especificamente para navegação na árvore JSON. Quando ele vê `transaction.amount_usd`, sua camada de atenção foca exatamente na chave indicada, eliminando ambiguidades e prevenindo interpretações incorretas.


4. Três Primitivos de IA: Análise Detalhada de Choice, Score e Noul

A TypeSafe construiu o sistema em torno de três primitivos mínimos e complementares. Cada um é destinado a um tipo matemático específico de decisão. Abaixo de cada seção, há um painel interativo integrado onde você pode escolher um prompt pronto e testar o funcionamento do primitivo.

4.1. Primitivo Choice: Seleção de uma Lista Discreta de Categorias

Choice é aplicado quando a resposta deve ser uma categoria de uma lista fixa e não ordenada de opções.

typescript
import { choice } from "@typesafe-ai/sdk"; const departmentQuestion = choice("До якого відділу направити запит?", { billing: "Питання повернення коштів, рахунків, підписок або помилок оплати", technical: "Баги в API, збої 500, проблеми з інтеграцією, падіння сервісу", sales: "Корпоративні тарифи, запити на демо, знижки від обсягу", other: "Будь-які інші запити, що не підпадають під перелічені категорії" });

O que a Jev retorna para Choice:

  • choice: A chave da categoria selecionada (por exemplo, "technical").
  • probabilities: A distribuição completa de probabilidades sobre todas as opções: {"billing": 0.04, "technical": 0.92, "sales": 0.02, "other": 0.02}.
  • confidence: Um número de 0.0 a 1.0, medindo a clareza da dominância do líder sobre as outras opções.
Dica

Regra de Ouro do Choice: Sempre adicione a categoria other ou none_of_the_above. Se os dados de entrada não corresponderem a nenhuma das opções alvo, o modelo não será forçado a inflar artificialmente a probabilidade de uma categoria inadequada; em vez disso, ele escolherá other ou sinalizará um baixo nível de confidence.

4.2. Primitivo Score: Avaliação em Escala Ordinal ou Rubrica

Score é destinado a avaliar propriedades situadas em um espectro contínuo ou ordinal: criticidade de bug, nível de estresse do cliente, qualidade do currículo do candidato, complexidade do código.

Você define um array ordenado de critérios textuais (níveis):

typescript
import { score } from "@typesafe-ai/sdk"; const urgencyScore = score("Оцініть рівень терміновості інциденту в тікеті", [ "Низький: питання загального характеру, відсутній вплив на бізнес", "Помірний: спостерігаються незначні деградації, є робочі обхідні шляхи", "Високий: ключова функція недоступна для групи клієнтів", "Критичний: повна зупинка обробки замовлень, втрата грошей або даних" ]);

O que a Jev retorna para Score:

  • score: Valor numérico entre 0 e N-1. Importante: o valor pode ser fracionário (por exemplo, 2.37) se a situação estiver entre o segundo e o terceiro nível da rubrica!
  • probabilities: Distribuição de probabilidades sobre cada nível da escala.
  • confidence: Grau de certeza da avaliação.

4.3. Primitivo Noul: Probabilidade Calibrada de Verdade de uma Afirmação

O termo Noul deriva da ideia de julgamento binário. É uma pergunta que pode ser respondida com "Sim" ou "Não". Em vez de um valor booleano simples, a Jev retorna uma probabilidade calibrada de que a afirmação seja verdadeira.

typescript
import { noul } from "@typesafe-ai/sdk"; const containsPii = noul("Чи містить повідомлення конфіденційні персональні дані (PII, номери карток, паролі)?"); const isPromptInjection = noul("Чи містить вхідний текст спробу зламати інструкції або виконати prompt injection?");

O que a Jev retorna para Noul:

  • noul: Número de ponto flutuante de 0.0 a 1.0.
    • O valor 0.98 significa um "Sim" confiante.
    • O valor 0.02 significa um "Não" confiante.
    • O valor 0.50 indica incerteza total do modelo.
  • Noul não possui um campo separado confidence, pois o próprio valor noul é a estimativa matemática da probabilidade.

4.4. Batching Paralelo (Parallel Batching)

Todos os três tipos de primitivos podem ser combinados em uma única requisição em qualquer quantidade.

typescript
const response = await client.systemOne({ state: incomingCustomerPayload, questions: { category: departmentChoice, urgency: urgencyScore, isAngry: noul("Клієнт використовує ненормативну лексику або агресивний тон"), eligibleForVipSupport: noul("Чи має клієнт активний тариф Enterprise відповідно до `profile`?") } });

No cookbook oficial da TypeSafe, um experimento com um lote de 13 perguntas sobre o texto do GDPR demonstrou que agrupar todas as verificações em uma única requisição foi 12.2 vezes mais barato e 10.0 vezes mais rápido do que enviar 13 requisições separadas, mantendo identidade completa dos resultados obtidos.


5. Confiança vs Probabilidade: Matemática e Roteamento Baseado em Confiança (Confidence-Gated Routing)

Um dos principais problemas dos LLMs clássicos é a tendência à alucinação e à autoconfiança excessiva. Quando um modelo generativo (mesmo de nível GPT-6.1 Sol ou Claude Opus 5.5) enfrenta um contexto limite ou insuficientemente definido, ele tenta inventar um texto plausível convincente. A Jev foi projetada usando algoritmos de aprendizado por reforço baseados em decisões calibradas (RLCD), permitindo que o modelo sinalize honestamente: "Não estou certa".

Diferença Matemática

  • Probabilidade (probability): Responde à pergunta "Qual a chance de que a opção correta seja X?". É uma medida de incerteza aleatória dentro das opções definidas.
  • Confiança (confidence): Responde à pergunta "Quão claramente uma opção domina todas as outras?". É uma medida de certeza epistêmica do modelo em sua escolha.

Para $K$ opções em uma pergunta Choice, a fórmula do cálculo normalizado de confiança da TypeSafe é:

$$\text{Confidence} = \max\left(0, \min\left(1, \frac{K \cdot p_{\max} - 1}{K - 1}\right)\right)$$

onde:

  • $K$ — número total de categorias disponíveis.
  • $p_{\max}$ — a maior probabilidade entre todas as categorias.

Exemplo de interpretação para 3 opções ($K = 3$):

  • Se as probabilidades forem distribuídas como [0.90, 0.06, 0.04], então $p_{\max} = 0.90$.

    $\text{Confidence} = \frac{3 \cdot 0.90 - 1}{2} = \frac{1.7}{2} = 0.85$ (Alta confiança).

  • Se as probabilidades forem uniformes [0.34, 0.33, 0.33], então $p_{\max} = 0.34$.

    $\text{Confidence} \approx \frac{3 \cdot 0.34 - 1}{2} = \frac{0.02}{2} = 0.01$ (O modelo não tem líder, incerteza total).

Padrão de Roteamento em Três Níveis (Confidence-Gated Routing)

Graças ao indicador confidence, os engenheiros podem construir sistemas de automação confiáveis com três circuitos de segurança:

mermaid
flowchart TD Result["Відповідь Jev + Confidence"] --> Check{Рівень впевненості} Check -->|Confidence >= 0.85| Auto["Tier 1: Автономна дія (Виконати транзакцію, закрити тікет)"] Check -->|0.50 <= Confidence < 0.85| Verify["Tier 2: М'яка перевірка (Запитати підтвердження у юзера / Soft Warning)"] Check -->|Confidence < 0.50| Fallback["Tier 3: Ескалація (Передати людині-оператору або важкій reasoning LLM)"]
typescript
const actionAnswer = response.answers.selected_action; if (actionAnswer.confidence >= 0.85) { // Висока впевненість: автономне виконання await executeAutomatedWorkflow(actionAnswer.choice); } else if (actionAnswer.confidence >= 0.50) { // Помірна впевненість: дія з підтвердженням користувача await requestUserConfirmation({ suggestedAction: actionAnswer.choice, confidence: actionAnswer.confidence, distribution: actionAnswer.probabilities }); } else { // Низька впевненість: модель не знає, що робити await routeToHumanOperator({ reason: "Low confidence decision", state: incomingPayload }); }

6. Padrões de Arquitetura de Nível de Produção (Production Patterns)

A experiência de centenas de projetos com a Jev permitiu cristalizar cinco padrões arquiteturais-chave para o design de sistemas inteligentes.

6.1. Fan-Out Especulativo (Speculative Fan-Out)

No código clássico, os desenvolvedores primeiro verificam uma condição e depois chamam a próxima função. No mundo da Jev, as perguntas são calculadas em paralelo, e adicionar novas perguntas quase não altera o tempo de resposta.

Padrão: Envie na primeira requisição não apenas as perguntas obrigatórias, mas também as hipotéticas, cujas respostas serão necessárias apenas em certos ramos do código.

typescript
// Надсилаємо одночасно і загальну класифікацію, і специфічні запитання const response = await client.systemOne({ state: incomingBugReport, questions: { isBugReport: noul("Чи є цей документ повідомленням про помилку в софті?"), // Спекулятивні запитання: backendComponent: choice("Який компонент постраждав?", { auth: null, payments: null, database: null, other: null }), securityVulnerability: noul("Чи містить звіт опис потенційної вразливості безпеки?"), estimatedSeverity: score("Серйозність інциденту", ["Косметична", "Середня", "Блокуюча"]) } }); // У коді просто ігноруємо специфічні поля, якщо це не баг: if (response.answers.isBugReport.noul > 0.8) { if (response.answers.securityVulnerability.noul > 0.7) { await alertSecurityTeam(response.answers.estimatedSeverity.score); } else { await assignTicket(response.answers.backendComponent.choice); } }

6.2. Pontuação Composta (Composite Scoring)

Em vez de pedir ao modelo para "avaliar o lead de 1 a 100" abstratamente, divida a avaliação em fatores atômicos e objetivos. Combine-os em uma pontuação final usando uma fórmula matemática determinística no seu código:

$$\text{LeadScore} = 0.40 \cdot \text{BudgetConfirmed} + 0.35 \cdot \text{DecisionMakerRole} + 0.25 \cdot \text{Urgency}$$

typescript
const answers = response.answers; const compositeScore = 0.40 * answers.budget_mentioned.noul + 0.35 * (answers.role_level.score / 3.0) + // нормалізація 4-рівневого score до 0..1 0.25 * answers.urgency_expressed.noul; if (compositeScore > 0.75) { await assignToEnterpriseSales(leadId); }

Se as prioridades de negócio da empresa mudarem, você não precisa reescrever longos system prompts ou retestar alucinações — basta alterar os coeficientes numéricos 0.40, 0.35, 0.25 no seu código TypeScript.

6.3. Cascata de Extração Estruturada (SDE Cascade)

Quando você precisa extrair dados complexos de texto não estruturado, construa um pipeline de dois estágios:

  1. Estágio 1: Um parser rápido ou regex encontram entidades potenciais (datas, valores, links, emails).
  2. Estágio 2 (Jev): Uma série de perguntas Choice ou Noul verifica e seleciona entre os candidatos aqueles que correspondem ao contexto.
  3. Estágio 3 (Apenas para 2–3% de colisões): Se a Jev retornar confidence < 0.5, a requisição é encaminhada para um modelo pesado de raciocínio profundo (GPT-6.1 Sol ou Claude Opus 5.5).

Essa abordagem reduz a conta total de LLMs em nuvem em 90–95%.

6.4. Firewall de Chamada de Ferramenta (Tool-Call Firewall)

Agentes de IA com acesso ao console ou chamada de ferramentas (MCP, bash, SQL) carregam um enorme risco de exclusão irreversível de dados ou execução de código malicioso.

Usando a Jev, cria-se um firewall rápido: cada comando gerado pelo agente, antes da execução, é enviado à Jev com 5–7 perguntas de segurança:

  • "Este comando modifica arquivos do sistema?"
  • "Variáveis de ambiente sensíveis estão sendo transmitidas para hosts externos?"
  • "A ação corresponde à solicitação original do usuário?"

A latência de 100 ms é imperceptível para o agente, mas protege confiavelmente o sistema contra operações perigosas.


7. Coding Prático: Pipelines Prontos em TypeScript e Python

Abaixo estão exemplos prontos para produção de construção de serviços de processamento de solicitações de clientes e scoring de risco financeiro usando os SDKs oficiais da TypeSafe para TypeScript e Python.

7.1. Pipelines Industriais: Processamento de Solicitações de Clientes

typescript
import { TypeSafeClient, choice, score, noul } from "@typesafe-ai/sdk"; // 1. Ініціалізація клієнта (бере TYPESAFE_API_KEY зі змінних середовища) const client = new TypeSafeClient(); interface SupportState { ticketId: string; userEmail: string; accountAgeDays: number; messageText: string; attachedLogs?: string; } export async function processCustomerMessage(ticket: SupportState) { try { // 2. Виклик System One з паралельними питаннями const response = await client.systemOne({ state: { ticket_id: ticket.ticketId, user_tier: ticket.accountAgeDays > 365 ? "vip" : "standard", content: ticket.messageText, logs: ticket.attachedLogs ?? "Немає логів" }, questions: { // Категоризація запиту (Choice) topic: choice("Яка основна тема звернення користувача?", { billing: "Проблеми з оплатою, картками, підпискою, запит на повернення грошей", bug_report: "Повідомлення про збій у додатку, помилку в інтерфейсі або API", feature_request: "Побажання щодо покращення функціоналу, нові інструменти", account: "Проблеми зі входом, зміна пошти або скидання пароля", other: "Питання, які не підпадають під жодну з попередніх категорій" }), // Оцінка за шкалою роздратування (Score) frustration_level: score("Наскільки користувач роздратований у `content`?", [ "Спокійний: діловий, нейтральний тон, виклад фактів", "Стурбований: відчувається легке невдоволення або нетерпіння", "Розлючений: агресія, погрози піти до конкурентів, скарги", "Екстремальний: ненормативна лексика, caps lock, вимога негайного дзвінка керівництва" ]), // Перевірка на терміновість (Noul) is_urgent: noul("Чи вказує користувач у `content`, що його продакшен зупинений або проблема критична для бізнесу?"), // Перевірка на наявність витоку секретів у тексті (Noul) contains_leaked_secrets: noul("Чи містить `content` або `logs` приватні API-ключі, токени доступу чи паролі?") } }); const { topic, frustration_level, is_urgent, contains_leaked_secrets } = response.answers; // 3. Детермінована логіка маршрутизації console.log(`[Ticket ${ticket.ticketId}] Тема: ${topic.choice} (Впевненість: ${topic.confidence.toFixed(2)})`); console.log(`[Ticket ${ticket.ticketId}] Рівень стресу: ${frustration_level.score.toFixed(2)}/3.00`); // Безпековий контур if (contains_leaked_secrets.noul > 0.85) { console.warn(`[SECURITY ALERT] Виявлено можливий витік ключів у тікеті ${ticket.ticketId}. Автоматичне маскування!`); } // Маршрутизація на основі впевненості if (topic.confidence < 0.50) { return { status: "manual_triage", reason: "Model uncertain about topic" }; } if (is_urgent.noul > 0.80 || frustration_level.score > 2.0) { return { status: "escalated_p1", department: topic.choice, priority: "CRITICAL", confidence: topic.confidence }; } return { status: "routed", department: topic.choice, priority: "NORMAL", confidence: topic.confidence }; } catch (error) { console.error("Помилка під час виклику Jev API:", error); throw error; } }

8. Análise dos 10 Melhores Casos Mundiais com Demonstrações em Vídeo (Receipts)

A comunidade de engenheiros nas plataformas shipwithjev.com, jevbest.com e jevable.com demonstrou dezenas de aplicações revolucionárias da Jev. Abaixo está uma análise detalhada dos 10 principais casos mundiais: à esquerda, um player interativo da demonstração real ou telemetria; à direita, uma análise estruturada do problema, da solução arquitetural com Jev e do recibo confirmado de velocidade e custo.

8.1. Browser Use + Jev: Agente Autônomo de Busca de Passagens Aéreas

8.2. Toolgate: Firewall de Chamada de Ferramentas MCP e Claude Code

8.3. Astra + Jev no Minecraft: Agente em Tempo Real System One + Two

8.4. Jev Driver: Condução Autônoma de Carro no Navegador

8.5. 2048Jev: Jev Jogando 2048 em Tempo Real

8.6. Semantic Jev: Consultas em Linguagem Humana via SQL

8.7. MotherDuck: Classificação prompt_jev() Diretamente no SQL

8.8. Jev Swap: Busca de Chamadas de LLM que Devem Ser Substituídas pela Jev

8.9. ElevenLabs: Detecção de Golpes Telefônicos em Tempo Real

8.10. Softlint: Linter de IA no CI para Regras Semânticas de Código


9. Integração em Pipelines de Agentes: Claude Code, Codex e MCP Toolgate

Agentes de coding autônomos modernos (Claude Code, OpenAI Codex, Antigravity, Cursor) enfrentam três gargalos críticos: inchaço de contexto (Context Bloat) devido a dezenas de ferramentas conectadas, uso irracional de modelos flagships supercaros para tarefas triviais e risco de ações destrutivas incontroláveis no terminal.

A Jev System One atua como uma camada reflexiva ultrarrápida (L0/L1) do sistema agentic: ela toma decisões discretas em ~80–90 ms por menos de $0.0003, otimizando todo o ciclo de trabalho do agente.

9.1. Roteamento Dinâmico de Modelos para Diferentes Tipos de Tarefa (Model Tier Routing)

Nos pipelines de agentes clássicos, os desenvolvedores ou fixam rigidamente um modelo (por exemplo, Claude 3.7 Sonnet ou GPT-4.5) para todas as subtarefas, ou chamam um LLM pesado para analisar a requisição, adicionando 2–4 segundos de latência e custos desnecessários em cada passo.

A Jev classifica a intenção e a complexidade da tarefa em ~85 ms, direcionando a requisição para o tier apropriado de modelos:

  • Fast Tier (microtarefas rápidas): Formatação de código, escrita de testes unitários simples, geração de validadores e documentação. Direcionado para Gemini 2.5 Flash ou GPT-4o-mini ($0.05–$0.15 por 1M de tokens).
  • Balanced Tier (coding padrão): Implementação de features, refatoração de funções, integração de API e correção de bugs de complexidade média. Direcionado para Claude 3.5 Sonnet ou DeepSeek V3 ($3.00 por 1M de tokens).
  • Deep Reasoning Tier (arquitetura crítica): Análise profunda de race conditions, design de bancos de dados, auditoria criptográfica complexa. Direcionado para Claude 3.7 Sonnet Thinking ou OpenAI o3-mini ($12.00–$15.00 por 1M de tokens).
typescript
import { TypeSafeClient } from "@typesafe/sdk"; const client = new TypeSafeClient({ apiKey: process.env.TYPESAFE_API_KEY }); export async function routeTaskToOptimalModel(taskDescription: string, codeDiff: string) { // Jev за ~85 мс класифікує складність завдання та повертає оптимальний тир моделі const response = await client.systemOne({ state: `Завдання: ${taskDescription}\nЗміни в коді:\n${codeDiff.slice(0, 3000)}`, questions: { model_tier: { type: "choice", instructions: "Determine the minimum model capability tier required to solve this programming task reliably.", categories: { fast: "Trivial task: boilerplate, comments, formatting, simple regex, single unit test", balanced: "Standard coding: feature implementation, bug fix, API handler, refactoring 1-2 files", reasoning: "Complex logic: multi-file architecture, distributed concurrency, deep debugging, security audit", }, default: "balanced", }, needs_web_search: { type: "noul", instructions: "Is this task referencing fresh 2026 libraries, breaking API changes, or unknown external documentation?", }, }, }); const tier = response.answers.model_tier.category; const isSearchNeeded = response.answers.needs_web_search.probability > 0.75; return { model: tier === "fast" ? "gemini-2.5-flash" : tier === "reasoning" ? "claude-3.7-sonnet" : "claude-3.5-sonnet", enableWebSearch: isSearchNeeded, latencyMs: response.telemetry?.latencyMs, }; }
Dica

Resultado do roteamento via Jev: A economia de custos de API do agente varia de 65% a 82%, e a primeira resposta para pequenas tarefas aparece 4 vezes mais rápido do que ao usar um único modelo pesado.

9.2. Ranqueamento e Carregamento de Skills Sob Demanda (Dynamic Skill Selection)

Um desenvolvedor moderno pode ter no ambiente 30–80 skills de agentes (skills/*), plugins e ferramentas. Se passar as especificações completas e instruções de todos os skills no system prompt do agente:

  • São gastos 15,000 a 35,000 tokens em cada iteração do diálogo.
  • O modelo começa a confundir ferramentas similares (Tool Hallucination / Overload).
  • A velocidade da primeira reação do agente cai para 5–10 segundos.

A Jev implementa a arquitetura On-Demand Skill Ingestion. O agente mantém na memória apenas descrições leves de uma linha dos skills disponíveis, e a Jev, em cada passo (~80 ms), ranqueia-os e seleciona os top 1–2 mais necessários:

typescript
export async function selectActiveAgentSkills( userPrompt: string, availableSkills: Array<{ name: string; triggerDescription: string }> ) { // Формуємо словник доступних скілів для примітиву Choice const categories = Object.fromEntries( availableSkills.map((s) => [s.name, s.triggerDescription]) ); categories["none"] = "No specialized skill required, general programming knowledge is sufficient"; const response = await client.systemOne({ state: `Поточний запит користувача: "${userPrompt}"`, questions: { primary_skill: { type: "choice", instructions: "Identify the single most relevant skill needed to accomplish this specific request.", categories, default: "none", }, secondary_skill_needed: { type: "noul", instructions: "Does this task explicitly require combining two distinct workflows (e.g., database audit + security hardening)?", }, }, }); const selectedSkill = response.answers.primary_skill.category; const isComposite = response.answers.secondary_skill_needed.probability > 0.8; return { loadSkills: selectedSkill !== "none" ? [selectedSkill] : [], isCompositeTask: isComposite, confidence: response.answers.primary_skill.confidence, }; }
Nota

Por que isso funciona mais rápido: Em vez de passar 30k tokens, o agente envia à Jev apenas a requisição do usuário (~200 tokens). Após receber o nome do skill necessário, o agente baixa o arquivo SKILL.md correspondente imediatamente antes de sua execução. Isso mantém a janela de contexto limpa para o código do projeto.

9.3. Firewall de Segurança toolgate para MCP e Terminal

O projeto open-source toolgate adiciona uma camada de verificação intermediária (middleware) para qualquer chamada do protocolo Model Context Protocol (MCP). Sempre que um agente autônomo inicia um comando de terminal (bash, npm run, git reset) ou sobrescreve arquivos, a Jev calcula paralelamente 7 probabilidades de risco destrutivo Noul:

  1. Exclusão Perigosa de Arquivos: Probabilidade de ações destrutivas (rm -rf, apagamento de diretórios fora do repositório).
  2. Vazamento de Dados Sensíveis: Tentativa de exibir variáveis de ambiente (.env, AWS_SECRET_ACCESS_KEY, chaves SSH privadas).
  3. Escalada de Privilégios: Uso de sudo, modificação de arquivos do sistema em /etc/ ou ~/.ssh/.
  4. Destruição do Histórico Git: Chamadas git push --force ou reset de branches sem confirmação.
  5. Anomalias de Rede: Abertura não autorizada de sockets ou envio de dados para IPs externos.
  6. Desvio do Objetivo Original (Scope Drift): Tentativa do agente modificar arquivos não relacionados à tarefa proposta.
  7. Custo Financeiro da Operação: Execução de scripts pesados em nuvem ou deploy sem consentimento do usuário.

Se o índice agregado de risco exceder o limiar 0.85, a ação é bloqueada instantaneamente, e o operador recebe uma notificação com descrição exata da ameaça.

9.4. Matriz Comparativa: Agente Clássico vs Agente com Jev System One

Parâmetro OperacionalAbordagem Clássica (Full Context / Heavy LLM)Agente com Integração Jev System OneBenefício para o Projeto
Seleção de Modelo por TarefaModelo flagship fixo ou roteador LLM pesado (2–4 s, ~$0.02)Roteador Choice Jev System One (~85 ms, $0.0003)-98% de latência, -98.5% de custo
Seleção e Carregamento de SkillsTodos os 40–80 skills no prompt (25,000+ tokens por turno)Ranqueamento em 80 ms e carregamento de 1–2 skills on-demandEconomia de até 90% de contexto
Controle de Segurança de FerramentasRegras regex simples ou ausência total de proteção7 verificações Noul paralelas antes de cada tool callProteção contra ações não autorizadas
Velocidade de Inicialização do Agente4–9 segundos de espera pelo primeiro token600–900 ms até o início da execução do passoInicialização 5–7 vezes mais rápida
Custo Médio de 100 Passos do Agente~$4.50 – $8.00~$0.85 – $1.40Economia de 75–85%

9.5. Instalação do Skill Oficial para Agentes

A TypeSafe fornece plugins de integração e skills prontos para ambientes de desenvolvimento populares:

bash
claude plugin marketplace add typesafe-ai/skills claude plugin install typesafe@typesafe-ai

O skill ensina o agente três regras críticas:

  1. Sempre agrupar verificações relacionadas em uma única chamada paralela client.systemOne.
  2. Usar o padrão Speculative Fan-Out em vez de consultas sequenciais.
  3. Armazenar perguntas e constantes de limiar em um arquivo de configuração separado para auditoria transparente por humanos.

9.6. Ferramental Pronto Jev 0.1.2 do Sr. Yuriy (@yuriisams)

O desenvolvedor e praticante Sr. Yuriy (@yuriisams) atualizou a automação para a versão Jev 0.1.2 — agora é um sistema monolítico único ~/.jev/ (roteador de modelos + seletor dinâmico de skills), que suporta imediatamente os três principais ambientes agentic: Claude Code, Codex e Antigravity (agy).

Por padrão, as ferramentas funcionam silenciosamente: elas filtram notificações de sistema de serviço (<task-notification, [SYSTEM NOTIFICATION]), e se o serviço Jev estiver indisponível ou a confiança for inferior ao limiar, o agente continua a execução padrão sem erros nem atrasos, de forma imperceptível.

Arquivo em jev_0.1.2/PropósitoComo Funciona por Baixo
jev.pyPonto de Entrada PrincipalFaz parse da requisição, filtra ruído de serviço, inicia a fila: primeiro router.py, depois picker.py.
router.pyRoteador de EsforçoAvalia a complexidade (tiny, everyday, large, hardest) e o coeficiente standalone da mensagem.
picker.pySeletor de SkillsEscolha em duas etapas: primeiro verifica skills locais do projeto, depois o menu geral cacheado.
manifest.pyCache do Menu de SkillsEscaneia builtins, skills pessoais ~/.claude/skills, plugins do marketplace e o projeto atual.
scan.pyAuditoria de SegurançaVerifica skills quanto a padrões perigosos (reverse shell, `curl
test_jev.pyConjunto de Testes23 testes autônomos para validação rápida na máquina sem gasto de tokens ou rede.
rules.mdRegras de SistemaInstruções prontas para inserção em CLAUDE.md ou AGENTS.md para interação com tags Jev.

Instalação Passo a Passo na Máquina de Trabalho

bash
# Створюємо теку ~/.jev і розпаковуємо авторський архів v0.1.2 mkdir -p ~/.jev curl -L -o /tmp/jev_0.1.2.zip https://gotburnout.io/downloads/jev_0.1.2.zip unzip -q /tmp/jev_0.1.2.zip -d /tmp/jev_unpacked cp -r /tmp/jev_unpacked/jev_0.1.2/* ~/.jev/ rm -rf /tmp/jev_unpacked /tmp/jev_0.1.2.zip # Налаштовуємо оточення та API ключ TypeSafe cp ~/.jev/.env.example ~/.jev/.env # Відкрийте ~/.jev/.env і додайте дійсний ключ: TYPESAFE_API_KEY=ваш_ключ chmod 600 ~/.jev/.env

Conexão de Hooks por Tipo de CLI

Escolha a configuração dependendo da ferramenta de trabalho:

json
{ "hooks": { "UserPromptSubmit": [ { "type": "command", "command": "python3 ~/.jev/jev.py --cli claude", "timeout": 10, "statusMessage": "Jev sizing up your message & skills..." } ] } }

Gerenciamento e Comandos Rápidos no Terminal

Após reiniciar o agente, você pode controlar o comportamento da Jev diretamente através de comandos de chat:

  • Gerenciamento do roteador de esforço: jev router on / jev router off / jev router status.

  • Gerenciamento da seleção de skills: jev skills on / jev skills off / jev skills status.

  • Estado geral do subsistema: jev status.

  • Alternância de motor (nuvem ou Laya local): jev engine jev / jev engine laya / jev engine status.

  • Auditoria de segurança de todos os skills instalados:

    bash
    python3 ~/.jev/scan.py

Baixar arquivo pronto jev_0.1.2.zip do Sr. Yuriy (@yuriisams) →


10. Armadilhas, Limitações da Jev 1.13 e Checklist de Implantação

A Jev é uma ferramenta poderosa, mas não é uma bala de prata universal. Compreender seus limites permite evitar erros críticos na fase de design.

Rugosidades Conhecidas (Jagged Edges) da Versão Atual jev-1.13.0

  • Limites de Contexto: O tamanho máximo da requisição é de 64k tokens, mas o estado (state) mais a pergunta mais longa não devem exceder 32k tokens. Ao aproximar-se do limite de 32k, a precisão do modelo começa a diminuir gradualmente.
  • Apenas Texto: A Jev não suporta ingestão direta de imagens, vídeos ou áudios. Todos os dados de mídia devem ser transcritos (por exemplo, via Whisper) ou convertidos em texto estruturado antes de serem passados para o state.
  • Especificidade Linguística: O modelo foi treinado predominantemente em corpora de língua inglesa. Ele é capaz de processar ucraniano, polonês ou espanhol, porém a maior precisão é alcançada com o seguinte esquema:
    Dica

    Dica para Projetos Localizados: Passe o texto local do usuário (por exemplo, em ucraniano) no campo state, mas escreva as próprias instruções (instructions) e critérios (criteria) das perguntas em inglês. A Jev correlaciona perfeitamente regras em inglês com contexto em ucraniano.

Checklist de Preparação para Lançamento em Produção

  • Não há system prompts supérfluos no corpo do artigo ou do serviço; apenas o state puro é transferido.
  • Todas as perguntas Choice contêm uma categoria default (other ou none_of_the_above).
  • Perguntas relacionadas são agrupadas em uma única chamada paralela client.systemOne.
  • Roteamento em três níveis baseado em confidence está implementado (Tier 1 / Tier 2 / Tier 3).
  • Limiares de confiança são diferenciados: maiores para operações destrutivas ($>0.90$) e moderados para operações read-only ($>0.60$).
  • Retry automático com backoff exponencial está configurado para lidar com possíveis HTTP 429 Rate Limit.
  • Constantes de perguntas e valores de limiar foram movidos para um arquivo de configuração separado.
  • O tamanho do estado de entrada foi verificado (não excede 32k tokens por pergunta).
  • Um fallback-route para um LLM clássico de raciocínio está previsto para confiança anormalmente baixa.
  • Os valores response.model e answers.*.confidence são logados para análise posterior da distribuição das decisões.

11. Alternativas Locais Open-Weight: Laya, GLiNER2.5-Decide e CLM-8B

Embora a Jev em nuvem da TypeSafe ofereça tarifas extremamente acessíveis ($0.042 por 1M de tokens), para muitos sistemas corporativos é crítico ter controle total sobre os dados (On-Premise, GDPR, HIPAA, sigilo bancário) ou zero dependência de APIs externas e latências de rede.

A comunidade open-source adotou rapidamente o paradigma System One e lançou modelos de decisão abertos (Open-Weight Decision Models), que podem ser executados localmente em servidores próprios, GPUs ou até laptops com Apple Silicon.

11.1. Laya da Convai Innovations: Clone Open-Source Direto da Jev

Laya é o primeiro análogo aberto direto da Jev, construído sob a mesma filosofia: um modelo de decisão não-autoregressivo que nunca gera texto livre, mas avalia perguntas tipadas em um único passe direto do transformer (~33 ms na GPU).

O modelo foi treinado usando aprendizado por reforço baseado em regras de avaliação estritamente corretas (RLCD — Reinforcement Learning for Calibrated Decisions), garantindo calibração matematicamente honesta das probabilidades.

  • Stack e Arquitetura: Encoder ModernBERT-large (421M parâmetros) para inglês e mmBERT-base (322M parâmetros) para 100+ línguas mundiais.
  • Suporte a Primitivos: Suporte nativo a choice, score e noul com o mesmo formato de requisições e respostas da TypeSafe Jev.
  • Contexto de Documentos: Suporta até 1024 tokens por padrão e até 8192 tokens na versão laya-multilingual (max_len=8192).
  • Servidor Compatível laya-serve: Contém um proxy embutido que implementa o endpoint POST /v1/systemone. Você pode substituir a Jev em nuvem em suas aplicações existentes simplesmente alterando o baseURL para http://localhost:8000.
  • Velocidade e Custo: Cerca de 33 ms na GPU (6–8 vezes mais rápido que a chamada de rede para a Jev em nuvem) e custo $0 sob licença Apache 2.0.
python
from laya import Router # Preload моделей у пам'ять для миттєвої маршрутизації (<35 мс) router = Router(preload=True) state = "Користувач скаржиться на подвійне списання коштів за підписку і вимагає повернення." questions = { "department": { "type": "choice", "instructions": "Which department should handle this request?", "criteria": { "billing": "invoices, payments, refunds", "tech_support": "bugs, outages, system errors", "other": "everything else" } }, "churn_risk": { "type": "noul", "instructions": "Does the user threaten to cancel or express high churn risk?" } } result = router.predict(state, questions) print("Відділ:", result["answers"]["department"]["choice"]) print("Ризик відтоку:", result["answers"]["churn_risk"]["noul"])
Dica

Multilinguismo: O Router detecta automaticamente a língua do texto (incluindo ucraniano) e direciona requisições não inglesas para o checkpoint laya-multilingual, garantindo classificação de qualidade em 45+ línguas sem troca manual de pesos.

Abrir repositório no Hugging Face: convaiinnovations/laya →


11.2. GLiNER2.5-Decide da Fastino: Classificador Orientado a Schema de 340M

GLiNER2.5-Decide é um modelo especializado do laboratório Fastino, destinado a classificação operacional, filtros de segurança e roteamento de tarefas sem necessidade de escrever prompts ou fazer parsing de tokens de saída.

O modelo é baseado na arquitetura DeBERTa-v3-large (340M parâmetros) e supera o JevK5 comercial no benchmark fast-decisions (60.2% de acurácia contra 57.6% da Jev).

  • Conjunto de Labels Dinâmico: A lista de categorias é passada diretamente na chamada da função durante a execução, sem retreinamento (Zero-Shot).
  • Suporte Multi-Label: Capaz de retornar múltiplas labels simultaneamente (por exemplo, identificar vários aspectos de um feedback ou problemas do cliente) através do limiar cls_threshold.
  • Labels com Descrições (Label Descriptions): Se o nome da label for ambíguo, pode-se fornecer uma descrição expandida — o modelo a considera ao tomar a decisão.
  • Escalas Ordinais e QA: Suporta níveis numéricos de urgência (por exemplo, de "0" a "5"), avaliação de tom e perguntas binárias (yes / no) sobre o trecho de texto fornecido.
  • Requisitos Mínimos de Hardware: 340M parâmetros permitem que o modelo opere com latência de milissegundos mesmo em processadores comuns (CPU).
python
from gliner2 import AutoExtractor # Завантаження екстрактора рішень Fastino model = AutoExtractor.from_pretrained("fastino/GLiNER2.5-Decide") # Оцінка одразу трьох параметрів (намір, терміновість, маршрут) за один прохід result = model.classify_text( "Збій на стадії білінгу: платіж завис, клієнт не може завершити покупку.", { "intent": ["refund", "payment_failure", "account_access", "general_inquiry"], "urgency": ["low", "medium", "high", "critical"], "route": ["finance", "devops", "customer_support"] } ) print(result) # Виведе: {'intent': 'payment_failure', 'urgency': 'high', 'route': 'finance'}

Abrir repositório no Hugging Face: fastino/GLiNER2.5-Decide →


11.3. CLM-v0.1-8B da Contrastive-LM: Scoring Contraste de Ações Baseado em Qwen3

CLM-v0.1-8B (Contrastive Language Model) é um desenvolvimento de pesquisadores da Stanford e NVIDIA (setembro de 2026), criado para seleção relâmpago de ações dentro de pipelines agentic (Computer Use, Tool Calling e verificação de passos).

Em vez da lenta geração de texto passo a passo, o modelo opera pelo princípio contrastivo: projeta o estado atual (state) e a lista de ações possíveis ou chamadas de ferramentas em um espaço vetorial comum, ranqueando-as por similaridade de cosseno.

  • Stack e Arquitetura: Encoder Qwen3-8B congelado combinado com cabeças de projeção contrastivas leves treinadas (~20M parâmetros).
  • Aceleração de Agentes: Fornece até 9 vezes menor latência em comparação com LLMs generativos ao selecionar a ferramenta necessária em uma grande lista de funções.
  • Action Caching (Cacheamento de Ações): Como o estado e as ações são codificados separadamente, os embeddings vetoriais de ferramentas estáticas ou funções do sistema podem ser calculados uma vez e armazenados na memória RAM.
  • Suporte a Hardware Local: Pesos abertos sob licença Apache 2.0 e otimizações oficiais para Apple MLX permitem implantar o modelo em estações de trabalho e Macs com memória unificada.
python
# Концептуальний приклад верифікації та вибору дії в CLM from clm import ContrastiveDecisionModel model = ContrastiveDecisionModel.from_pretrained("Contrastive-LM/CLM-v0.1-8B") current_state = "Користувач просить знайти файл звіту за вчора та надіслати його в Slack." candidate_actions = [ "run_bash_command: ls -la /reports", "search_database: SELECT * FROM reports WHERE date = yesterday", "send_slack_notification: text='Report not found'", "request_human_approval: action='delete_report'" ] # Розрахунок контрастивної відповідності дій за частки мілісекунд ranked_actions = model.rank_actions(state=current_state, candidates=candidate_actions) print("Найкраща дія:", ranked_actions[0].action) print("Впевненість сумісності:", ranked_actions[0].score)

Abrir repositório no Hugging Face: Contrastive-LM/CLM-v0.1-8B →


11.4. Tabela Consolidada: Jev vs Alternativas System 1 Abertas

ModeloDesenvolvedor / OrganizaçãoArquitetura e TamanhoLatência (P50)Foco Principal e FeaturesCompatibilidade Drop-in com JevLicença
TypeSafe Jev 1.13TypeSafe AIArquitetura proprietária própria~90–120 msModelo System One em nuvem, 3 primitivos, confidence calibradoAPI OficialComercial ($0.042/1M)
LayaConvai InnovationsModernBERT-large (421M) / mmBERT (322M)~33 ms (GPU)Suporte 1-em-1 Choice/Score/Noul, 100+ línguas, calibração RLCDSim (laya-serve)Apache 2.0 (Open Source)
GLiNER2.5-DecideFastino AIDeBERTa-v3-large (340M)~15–40 msClassificação multi-label, descrições de labels, excelente desempenho em CPUNão (SDK próprio gliner2)Apache 2.0 (Open Source)
CLM-v0.1-8BContrastive-LM (Stanford / NVIDIA)Frozen Qwen3-8B + Heads (~8B)~50–80 msScoring contrastivo de ações de agentes, Action Caching, Apple MLXNão (roteador contrastivo)Apache 2.0 (Open Source)

11.5. Como Escolher o Modelo Local para Seu Stack

Dica

Regra Prática de Escolha do Motor System 1 Local:

  • Escolha Laya (convaiinnovations/laya) se você já projetou um pipeline para os primitivos da TypeSafe Jev (choice, score, noul), precisa de processamento multilíngue (incluindo textos em ucraniano) ou deseja migrar sua produção existente para seu próprio servidor sem reescrever código usando laya-serve.
  • Escolha GLiNER2.5-Decide (fastino/GLiNER2.5-Decide) se sua tarefa envolve classificação rápida de mensagens, suporte a categorias multi-label (várias tags simultaneamente), trabalho com labels descritivas complexas ou se você precisa implantar o serviço em servidores com recursos limitados sem GPUs dedicadas.
  • Escolha CLM-v0.1-8B (Contrastive-LM/CLM-v0.1-8B) se você está construindo um agente de IA autônomo com um rico conjunto de ferramentas (MCP / Tool Calling) e busca máxima velocidade de verificação de ações e proteção contra erros através do cacheamento de embeddings de ferramentas.
Este guia é totalmente gratuito. Se ele te poupou uma noite, você pode apoiar o crescimento do projeto.
Apoiar o autor