Jev та System One AI: повний практичний гайд по моделі рішень від TypeSafe

Сучасна індустрія штучного інтелекту тривалий час рухалася шляхом збільшення генеративних моделей. Ми звикли використовувати великі мовні моделі (LLM) рівня GPT-6.1 Sol, Claude Opus 5.5, Claude Fable чи Gemini 3.8 Flash для будь-яких завдань: від написання есе до парсингу статусів замовлень. Проте коли справа доходить до побудови надійного програмного забезпечення, генерація тексту перетворюється на вузьке місце: моделі витрачають секунди на покрокове розгортання токенів, галюцинують невалідним JSON, вимагають нескінченних регулярних виразів і коштують надто дорого для мікросервісної архітектури.

Jev від лабораторії TypeSafe AI — це перша у світі модель нового класу, відомого як System One AI. Вона взагалі не генерує текст. Jev створена виключно для миттєвих, типізованих, структурних рішень усередині софтверних систем: класифікація, маршрутизація, оцінка за рубриками, перевірка гіпотез і фаєрволи для агентів із затримкою близько 100 мс і вартістю $0.042 за 1 мільйон токенів.

У цьому гайді ми як практики розберемо технологію Jev до найменших деталей: фундаментальну різницю між System One і System Two, три ключові примітиви, математику каліброваної впевненості, архітектурні патерни, готові пайплайни на TypeScript і Python, а також вивчимо 10 проривних реальних кейсів із реальними чеками вартості та відео-демонстраціями.

Демонстрація швидкості TypeSafe Jev: миттєва верифікація тверджень із затримкою 69–83 мс та каліброваною впевненістю ЗбільшитиДемонстрація швидкості TypeSafe Jev: миттєва верифікація тверджень із затримкою 69–83 мс та каліброваною впевненістю

1. Парадигмальний зсув: System One проти класичних LLM (System Two)

Назва концепції походить із когнітивної психології та фундаментальної праці нобелівського лауреата Деніела Канемана «Мислення швидке й повільне».

Канеман розділяє мислення людини на дві системи:

• Система 1 (System One): Швидка, інтуїтивна, автоматична, майже миттєва реакція на знайомі патерни (наприклад, визначити вираз обличчя співрозмовника, вловити небезпеку на дорозі, відрізнити спам від важливого листа за долю секунди).
• Система 2 (System Two): Повільна, усвідомлена, аналітична робота, що вимагає концентрації зусиль і послідовних кроків (розв'язання рівняння, написання архітектурного документу, логічне доведення теореми).

Чому генеративні LLM ламають софтверні пайплайни

Більшість рішень у бекенд-сервісах — це не філософські есе, а конкретні дискретні вибори:

• «Чи належить ця транзакція до підозрілих?» (true або false).
• «До якого відділу направити цей тікет: білінг, техпідтримка чи продажі?» (billing | tech | sales).
• «Наскільки клієнт роздратований за шкалою від 1 до 5?» (1..5).

Коли інженер змушує важку генеративну модель типу GPT-6.1 Sol, Claude Opus 5.5 або Claude Fable відповідати на такі запитання, виникає фундаментальна невідповідність природи інструменту:

• Авторегресивна затримка: Модель зобов'язана генерувати токени послідовно один за одним. Навіть коротка відповідь займає 1.5–3 секунди через мережеві очікування та кванти генерації.
• Крихкість JSON Mode: Генеративні моделі нерідко додають коментарі, пропускають лапки або обгортають відповідь у ```json ... ```, змушуючи розробників писати складні санитайзери та механізми retry.
• Економічна неефективність: Ви сплачуєте повну вартість вихідних токенів (output tokens), які в комерційних API коштують у 3–5 разів дорожче за вхідні.
• Деградація уваги (Context Rot): Якщо ви ставите моделі кілька послідовних запитань в одному чаті, зростаючий контекст розмиває увагу й підвищує ймовірність помилки.

2. Економіка, швидкість та бенчмарки: $0.042 за 1M токенів і 100 мс

Економіка Jev змінює правила гри для високонавантажених сервісів. Замість оплати за кожне вихідне слово розробники платять виключно за вхідні токени.

Порівняльна таблиця вартості та характеристик

Реальний бенчмарк: MotherDuck (SQL Text Classification)

Команда аналітичної хмарної бази даних MotherDuck інтегрувала функцію prompt_jev() безпосередньо в SQL-діалект для класифікації текстових записів у промислових масштабах.

Результати тесту на масиві з 100 000 рядків:

• Класична frontier-LLM: час виконання — 32 хвилини, вартість обчислень — $37.00.
• TypeSafe Jev: час виконання — 40 секунд, вартість обчислень — $0.50.
• Підсумок: Jev виконав завдання у 48 разів швидше та у 74 рази дешевше, продемонструвавши повний паритет за якістю класифікації.

3. Анатомія запиту: Structured State та точкова Dot-Path адресація

Запит до Jev складається з двох фундаментальних компонентів:

1. state (стан): Контекст завдання у вигляді простого тексту, рядка або вкладеного JSON-документа (лог подій, транзакція, профайл користувача, код, вміст сторінки).
2. questions (набір питань): Словник запитань, які модель повинна одночасно оцінити щодо переданого стану.

Принцип ізоляції контексту та запобігання Context Rot

Класична помилка під час роботи з великими моделями — надсилати всю історію попередніх діалогів та службові промпти. У Jev діє правило суворої гігієни контексту: передавайте у state лише ті дані, які необхідні для прийняття конкретних рішень. Модель отримує стан один раз і паралельно розраховує всі запитання.

Точкова адресація через Dot-and-Index Paths

Коли ваш state є складним структурованим JSON-об'єктом, ви можете посилатися на конкретні поля та елементи масиву безпосередньо в тексті запитання за допомогою зворотних лапок (backticks):

Модель Jev спеціально оптимізована для навігації по JSON-дереву. Коли вона бачить `transaction.amount_usd`, її шар уваги фокусується саме на вказаному ключі, усуваючи неоднозначність і запобігаючи помилковим інтерпретаціям.

4. Три AI-примітиви: детальний розбір Choice, Score та Noul

TypeSafe побудував систему навколо трьох мінімальних, взаємодоповнюючих примітивів. Кожен із них призначений для конкретного математичного типу рішення. Під кожним підрозділом нижче інтегровано окремий інтерактивний стенд, де ви можете обрати готовий промпт і протестувати роботу примітиву в дії.

4.1. Примітив Choice: вибір з дискретного списку категорій

Choice застосовується, коли відповіддю має бути одна категорія з фіксованого, неупорядкованого переліку варіантів.

Що повертає Jev для Choice:

• choice: Ключ обраної категорії (наприклад, "technical").
• probabilities: Повний розподіл імовірностей по всіх опціях: {"billing": 0.04, "technical": 0.92, "sales": 0.02, "other": 0.02}.
• confidence: Число від 0.0 до 1.0, що вимірює чіткість домінування лідера над іншими варіантами.

4.2. Примітив Score: оцінка за порядковою шкалою або рубрикою

Score призначений для оцінки властивостей, які розташовані на безперервному або порядковому спектрі: критичність багу, рівень стресу клієнта, якість резюме кандидата, складність коду.

Ви задаєте впорядкований масив текстових критеріїв (рівнів):

Що повертає Jev для Score:

• score: Числове значення в межах від 0 до N-1. Важливо: значення може бути дробовим (наприклад, 2.37), якщо ситуація знаходиться між другим і третім рівнем рубрики!
• probabilities: Розподіл імовірностей по кожному рівню шкали.
• confidence: Ступінь визначеності оцінки.

4.3. Примітив Noul: калібрована ймовірність істинності твердження

Термін Noul походить від ідеї бінарного судження. Це запитання, на яке можна відповісти «Так» або «Ні». Замість простого булевого значення Jev повертає калібровану ймовірність того, що твердження є істинним.

Що повертає Jev для Noul:

• noul: Число з плаваючою комою від 0.0 до 1.0.
  • Значення 0.98 означає впевнене «Так».
  • Значення 0.02 означає впевнене «Ні».
  • Значення 0.50 вказує на повну невизначеність моделі.
• Noul не має окремого поля confidence, тому що саме значення noul є математичною оцінкою ймовірності.

4.4. Паралельне пакетування (Parallel Batching)

Усі три типи примітивів можна комбінувати в одному запиті в будь-якій кількості.

В офіційному кукбуку TypeSafe експеримент із пакетом із 13 запитань до тексту GDPR продемонстрував, що об'єднання всіх перевірок в один запит виявилося у 12.2 раза дешевшим і у 10.0 разів швидшим, ніж надсилання 13 окремих запитів, при повній ідентичності отриманих результатів.

5. Впевненість проти Ймовірності: Математика та Confidence-Gated Routing

Однією з головних проблем класичних LLM є схильність до галюцинацій та надмірної самовпевненості. Коли генеративна модель (навіть рівня GPT-6.1 Sol чи Claude Opus 5.5) стикається з граничним або недостатньо визначеним контекстом, вона намагається вигадати переконливий правдоподібний текст. Jev спроектовано за допомогою алгоритмів підкріпленого навчання на основі каліброваних рішень (RLCD), що дозволяє моделі чесно сигналізувати: «Я не впевнена».

Математична різниця

• Ймовірність (probability): Відповідає на запитання «Який шанс, що правильним варіантом є X?». Це міра алеаторної невизначеності всередині заданих опцій.
• Впевненість (confidence): Відповідає на запитання «Наскільки чітко один варіант домінує над усіма іншими?». Це міра епістемічної впевненості моделі у своєму виборі.

Для $K$ варіантів у запитанні Choice формула нормалізованого розрахунку впевненості TypeSafe має вигляд:

$$\text{Confidence} = \max\left(0, \min\left(1, \frac{K \cdot p_{\max} - 1}{K - 1}\right)\right)$$

де:

• $K$ — загальна кількість доступних категорій.
• $p_{\max}$ — найвища ймовірність серед усіх категорій.

Приклад інтерпретації для 3 варіантів ($K = 3$):

• Якщо ймовірності розподілені як [0.90, 0.06, 0.04], то $p_{\max} = 0.90$.

  $\text{Confidence} = \frac{3 \cdot 0.90 - 1}{2} = \frac{1.7}{2} = 0.85$ (Висока впевненість).

• Якщо ймовірності рівномірні [0.34, 0.33, 0.33], то $p_{\max} = 0.34$.

  $\text{Confidence} \approx \frac{3 \cdot 0.34 - 1}{2} = \frac{0.02}{2} = 0.01$ (Модель не має лідера, повна невизначеність).

Трьохрівневий шаблон маршрутизації (Confidence-Gated Routing)

Завдяки показнику confidence інженери можуть будувати надійні системи автоматизації з трьома контурами безпеки:

6. Архітектурні патерни виробничого рівня (Production Patterns)

Досвід сотень проектів на Jev дозволив кристалізувати п'ять ключових архітектурних шаблонів проектування інтелектуальних систем.

6.1. Спекулятивний розмах (Speculative Fan-Out)

У класичному коді розробники спочатку роблять перевірку умови, а потім викликають наступну функцію. У світі Jev запитання обчислюються паралельно, а додавання нових питань майже не змінює час відповіді.

Патерн: надсилайте у першому ж запиті не лише обов'язкові, а й гіпотетичні запитання, відповіді на які знадобляться лише в певних гілках коду.

6.2. Композитний скоринг (Composite Scoring)

Замість того, щоб просити модель абстрактно «оцінити лід від 1 до 100», розбийте оцінку на атомарні, об'єктивні фактори. Зведіть їх у фінальний бал детермінованою математичною формулою у вашому коді:

$$\text{LeadScore} = 0.40 \cdot \text{BudgetConfirmed} + 0.35 \cdot \text{DecisionMakerRole} + 0.25 \cdot \text{Urgency}$$

Якщо бізнес-пріоритети компанії зміняться, вам не потрібно переписувати довгий системний промпт чи повторно тестувати галюцинації — ви просто змінюєте числові коефіцієнти 0.40, 0.35, 0.25 у своєму TypeScript-коді.

6.3. Каскад структурованого вилучення (SDE Cascade)

Коли вам потрібно витягти складні дані з неструктурованого тексту, побудуйте двоступеневий конвеєр:

1. Етап 1: Швидкий парсер або регулярні вирази знаходять потенційні сутності (дати, суми, посилання, email).
2. Етап 2 (Jev): Серія запитань Choice або Noul верифікує та обирає серед кандидатів саме ті, що відповідають контексту.
3. Етап 3 (Тільки для 2–3% колізій): Якщо Jev повертає confidence < 0.5, запит передається важкій моделі поглибленого мислення (GPT-6.1 Sol або Claude Opus 5.5).

Такий підхід скорочує загальний чек за хмарні LLM на 90–95%.

6.4. Фаєрвол виклику інструментів (Tool-Call Firewall)

AI-агенти, які мають доступ до консолі або виклику інструментів (MCP, bash, SQL), несуть величезний ризик незворотного видалення даних або виконання шкідливого коду.

За допомогою Jev створюється швидкий фаєрвол: кожна команда, згенерована агентом, перед виконанням надсилається у Jev із 5–7 запитаннями безпеки:

• «Чи модифікує ця команда системні файли?»
• «Чи передаються конфіденційні змінні оточення на зовнішні хости?»
• «Чи відповідає дія початковому запиту користувача?»

Затримка у 100 мс непомітна для агента, проте надійно захищає систему від небезпечних операцій.

7. Практичний кодинг: готові пайплайни на TypeScript та Python

Нижче наведено готові до продакшену приклади побудови сервісу обробки вхідних звернень клієнтів та фінансового ризик-скорингу за допомогою офіційних SDK TypeSafe для TypeScript та Python.

7.1. Промислові пайплайни: обробка звернень клієнтів

typescript
Копіювати
import { TypeSafeClient, choice, score, noul } from "@typesafe-ai/sdk";

// 1. Ініціалізація клієнта (бере TYPESAFE_API_KEY зі змінних середовища)
const client = new TypeSafeClient();

interface SupportState {
  ticketId: string;
  userEmail: string;
  accountAgeDays: number;
  messageText: string;
  attachedLogs?: string;
}

export async function processCustomerMessage(ticket: SupportState) {
  try {
    // 2. Виклик System One з паралельними питаннями
    const response = await client.systemOne({
      state: {
        ticket_id: ticket.ticketId,
        user_tier: ticket.accountAgeDays > 365 ? "vip" : "standard",
        content: ticket.messageText,
        logs: ticket.attachedLogs ?? "Немає логів"
      },
      questions: {
        // Категоризація запиту (Choice)
        topic: choice("Яка основна тема звернення користувача?", {
          billing: "Проблеми з оплатою, картками, підпискою, запит на повернення грошей",
          bug_report: "Повідомлення про збій у додатку, помилку в інтерфейсі або API",
          feature_request: "Побажання щодо покращення функціоналу, нові інструменти",
          account: "Проблеми зі входом, зміна пошти або скидання пароля",
          other: "Питання, які не підпадають під жодну з попередніх категорій"
        }),

        // Оцінка за шкалою роздратування (Score)
        frustration_level: score("Наскільки користувач роздратований у `content`?", [
          "Спокійний: діловий, нейтральний тон, виклад фактів",
          "Стурбований: відчувається легке невдоволення або нетерпіння",
          "Розлючений: агресія, погрози піти до конкурентів, скарги",
          "Екстремальний: ненормативна лексика, caps lock, вимога негайного дзвінка керівництва"
        ]),

        // Перевірка на терміновість (Noul)
        is_urgent: noul("Чи вказує користувач у `content`, що його продакшен зупинений або проблема критична для бізнесу?"),

        // Перевірка на наявність витоку секретів у тексті (Noul)
        contains_leaked_secrets: noul("Чи містить `content` або `logs` приватні API-ключі, токени доступу чи паролі?")
      }
    });

    const { topic, frustration_level, is_urgent, contains_leaked_secrets } = response.answers;

    // 3. Детермінована логіка маршрутизації
    console.log(`[Ticket ${ticket.ticketId}] Тема: ${topic.choice} (Впевненість: ${topic.confidence.toFixed(2)})`);
    console.log(`[Ticket ${ticket.ticketId}] Рівень стресу: ${frustration_level.score.toFixed(2)}/3.00`);

    // Безпековий контур
    if (contains_leaked_secrets.noul > 0.85) {
      console.warn(`[SECURITY ALERT] Виявлено можливий витік ключів у тікеті ${ticket.ticketId}. Автоматичне маскування!`);
    }

    // Маршрутизація на основі впевненості
    if (topic.confidence < 0.50) {
      return { status: "manual_triage", reason: "Model uncertain about topic" };
    }

    if (is_urgent.noul > 0.80 || frustration_level.score > 2.0) {
      return { 
        status: "escalated_p1", 
        department: topic.choice, 
        priority: "CRITICAL",
        confidence: topic.confidence 
      };
    }

    return { 
      status: "routed", 
      department: topic.choice, 
      priority: "NORMAL",
      confidence: topic.confidence 
    };

  } catch (error) {
    console.error("Помилка під час виклику Jev API:", error);
    throw error;
  }
}

8. Розбір 10 найкращих світових кейсів із відео-демонстраціями (Receipts)

Спільнота інженерів на платформах shipwithjev.com, jevbest.com та jevable.com продемонструвала десятки революційних застосувань Jev. Нижче наведено детальний розбір 10 провідних світових кейсів: ліворуч розміщено інтерактивний плеєр реальної демонстрації або телеметрії, а праворуч — структурований аналіз проблеми, архітектурного рішення на Jev та підтвердженого чека швидкості й вартості.

8.1. Browser Use + Jev: Автономний агент пошуку авіаквитків

8.2. Toolgate: Фаєрвол виклику інструментів MCP та Claude Code

8.3. Astra + Jev у Minecraft: Реалтайм-агент System One + Two

8.4. Jev Driver: Автономне керування авто в браузері

8.5. 2048Jev: Jev грає у 2048 у режимі реального часу

8.6. Semantic Jev: Запити людською мовою через SQL

8.7. MotherDuck: prompt_jev() класифікація прямо в SQL

8.8. Jev Swap: Пошук викликів LLM, які треба замінити на Jev

8.9. ElevenLabs: Детекція телефонних шахраїв у реальному часі

8.10. Softlint: AI-лінтер у CI для семантичних правил коду

9. Інтеграція в агентні пайплайни: Claude Code, Codex та MCP Toolgate

Сучасні автономні coding-агенти (Claude Code, OpenAI Codex, Antigravity, Cursor) стикаються з трьома критичними вузькими місцями: роздуванням контексту (Context Bloat) через десятки підключених інструментів, нераціональним використанням наддорогих флагманських моделей для тривіальних задач і ризиком неконтрольованих деструктивних дій у терміналі.

Jev System One виступає як надшвидкий рефлекторний шар (L0/L1) агентної системи: він приймає дискретні рішення за ~80–90 мс за ціною менше $0.0003, оптимізуючи весь робочий цикл агента.

9.1. Динамічне ранжування моделей для різних типів задач (Model Tier Routing)

У класичних агентних пайплайнах розробники або жорстко закріплюють одну модель (наприклад, Claude 3.7 Sonnet чи GPT-4.5) для всіх підзадач, або викликають важку LLM для аналізу запиту, що додає 2–4 секунди затримки та зайві витрати на кожному кроці.

Jev класифікує намір і складність завдання за ~85 мс, направляючи запит у відповідний тир моделей:

• Fast Tier (швидкі мікро-завдання): Форматування коду, написання простих юніт-тестів, генерація валідаторів і документації. Направляється на Gemini 2.5 Flash або GPT-4o-mini ($0.05–$0.15 за 1M токенів).
• Balanced Tier (стандартне кодування): Реалізація фіч, рефакторинг функцій, інтеграція API та виправлення багів середньої складності. Направляється на Claude 3.5 Sonnet або DeepSeek V3 ($3.00 за 1M токенів).
• Deep Reasoning Tier (критична архітектура): Глибокий аналіз race conditions, проектування баз даних, комплексний криптографічний аудит. Направляється на Claude 3.7 Sonnet Thinking або OpenAI o3-mini ($12.00–$15.00 за 1M токенів).

9.2. Ранжування та завантаження скілів за вимогою (Dynamic Skill Selection)

Сучасний розробник може мати в середовищі 30–80 агентських скілів (skills/*), плагінів та інструментів. Якщо передавати повні специфікації та інструкції всіх скілів у системний промпт агента:

• Витрачається від 15,000 до 35,000 токенів на кожній ітерації діалогу.
• Модель починає плутатися в подібних інструментах (Tool Hallucination / Overload).
• Швидкість першої реакції агента падає до 5–10 секунд.

Jev реалізує архітектуру On-Demand Skill Ingestion. Агент тримає в пам'яті лише легкі однорядкові описи доступних скілів, а Jev на кожному кроці за ~80 мс ранжує їх і обирає топ-1–2 найнеобхідніші:

9.3. Безпековий фаєрвол toolgate для MCP та терміналу

Проект із відкритим кодом toolgate додає проміжний шар перевірки (middleware) для будь-яких викликів протоколу Model Context Protocol (MCP). Щоразу, коли автономний агент ініціює термінальну команду (bash, npm run, git reset) чи перезапис файлів, Jev паралельно прораховує 7 ймовірностей деструктивного ризику Noul:

1. Небезпечне видалення файлів: Ймовірність деструктивних дій (rm -rf, стирання директорій поза репозиторієм).
2. Витік чутливих даних: Спроба вивести змінні середовища (.env, AWS_SECRET_ACCESS_KEY, приватні SSH-ключі).
3. Ескалація привілеїв: Використання sudo, модифікація системних файлів у /etc/ чи ~/.ssh/.
4. Знищення історії Git: Виклики git push --force або скидання гілок без підтвердження.
5. Мережеві аномалії: Несанкціоноване відкриття сокетів чи надсилання даних на сторонні IP.
6. Відхилення від початкового завдання (Scope Drift): Спроба агента змінити файли, що не мають стосунку до поставленого завдання.
7. Фінансова вартість операції: Запуск важких хмарних скриптів або деплой без згоди користувача.

Якщо сукупний індекс ризику перевищує поріг 0.85, дія миттєво блокується, а оператор отримує сповіщення з точним описом загрози.

9.4. Порівняльна матриця: Класичний агент проти агента з Jev System One

9.5. Встановлення офіційного скіла для агентів

TypeSafe надає готові інтеграційні плагіни та скіли для популярних середовищ розробки:

bash
Копіювати
claude plugin marketplace add typesafe-ai/skills
claude plugin install typesafe@typesafe-ai

Скіл навчає агента трьом критичним правилам:

1. Завжди групувати пов'язані перевірки в один паралельний виклик client.systemOne.
2. Використовувати патерн Speculative Fan-Out замість послідовних опитувань.
3. Зберігати запитання та порогові константи в окремому конфігураційному файлі для прозорого аудиту людиною.

9.6. Готовий Claude Code інструментарій від пана Юрія (@yuriisams)

Розробник і практик пан Юрій (@yuriisams) створив готову автоматизацію на базі Jev безпосередньо для термінального агента Claude Code. Це два автономні інструменти, які вбудовуються як UserPromptSubmit хуки та спрацьовують на кожне повідомлення користувача автоматично, зберігаючи повний контроль за розробником.

За замовчуванням обидва інструменти вимкнені: поки вони не активовані, Claude Code працює у стандартному режимі й нікуди не відправляє дані. Якщо ж сервіс Jev недоступний або впевненість моделі низька, Claude так само непомітно продовжує штатне виконання.

Покрокове встановлення на робочу машину

bash
Копіювати
# Створюємо тимчасову теку та завантажуємо авторський архів
mkdir -p ~/jev-setup && cd ~/jev-setup
curl -L -o JEV-Guide.zip https://gotburnout.io/downloads/JEV-Guide.zip
unzip JEV-Guide.zip

Підключення хуків у ~/.claude/settings.json

У конфігураційному файлі ~/.claude/settings.json додайте хуки до масиву hooks.UserPromptSubmit (не видаляючи інші існуючі хуки):

Керування та швидкі команди в терміналі

Після перезапуску Claude Code ви можете будь-якої миті вмикати чи вимикати інструменти:

• Керування роутером моделей: jev router on / jev router off / jev router status.

• Керування підбором скілів: jev skills on / jev skills off / jev skills status.

• Разова перевірка без активації хуків:

  bash

  Копіювати

  python3 ~/.jev-skills/picker.py "налаштувати nginx для reverse proxy з ssl"

Завантажити готовий архів JEV-Guide.zip від пана Юрія (@yuriisams) →

10. Підводні камені, обмеження Jev 1.13 та чеклист впровадження

Jev — потужний інструмент, але він не є універсальною срібною кулею. Розуміння його меж дозволяє уникнути критичних помилок на етапі проектування.

Відомі шорсткості (Jagged Edges) поточної версії jev-1.13.0

• Контекстні ліміти: Максимальний розмір запиту становить 64k токенів, але стан (state) плюс найдовше запитання не повинні перевищувати 32k токенів. При наближенні до межі 32k точність моделі починає плавно знижуватися.
• Тільки текст: Jev не підтримує прямий прийом зображень, відео чи аудіо. Усі медіа-дані перед передачею в state повинні бути транскрибовані (наприклад, через Whisper) або перетворені на структурований текст.
• Мовна специфіка: Модель тренувалася переважно на англомовному масиві даних. Вона здатна обробляти українську, польську чи іспанську мови, проте найвища точність досягається за такою схемою:
  Порада

  Порада для локалізованих проектів: Передавайте локальний текст користувача (наприклад, українською) в поле state, але самі інструкції (instructions) та критерії (criteria) запитань пишіть англійською мовою. Jev чудово співвідносить англомовні правила з україномовним контекстом.

Чекліст підготовки до запуску в продакшен

• У тілі статті та сервісу немає зайвих системних промптів; передається лише чистий state.
• Усі запитання Choice містять дефолтну категорію (other або none_of_the_above).
• Споріднені запитання згруповані в один паралельний виклик client.systemOne.
• Реалізовано трьохрівневу маршрутизацію на основі confidence (Tier 1 / Tier 2 / Tier 3).
• Пороги впевненості диференційовані: вищі для деструктивних операцій ($>0.90$) та помірні для read-only операцій ($>0.60$).
• Налаштовано автоматичний retry з експоненційним backoff для обробки можливих HTTP 429 Rate Limit.
• Константи запитань та порогові значення винесені в окремий конфігураційний файл.
• Перевірено розмір вхідного стану (не перевищує 32k токенів на одне запитання).
• Передбачено fallback-маршрут на класичну reasoning LLM для аномально низької впевненості.
• Логуються значення response.model та answers.*.confidence для подальшого аналізу розподілу рішень.

11. Локальні Open-Weight альтернативи: Laya, GLiNER2.5-Decide та CLM-8B

Хоча хмарний Jev від TypeSafe пропонує надзвичайно доступні тарифи ($0.042 за 1M токенів), для багатьох корпоративних систем критично мати повний контроль над даними (On-Premise, GDPR, HIPAA, банківська таємниця) або нульову залежність від сторонніх API і мережевих затримок.

Open-source спільнота швидко підхопила парадигму System One і випустила відкриті моделі рішень (Open-Weight Decision Models), які можна запустити локально на власному сервері, GPU чи навіть ноутбуці з Apple Silicon.

11.1. Laya від Convai Innovations: прямий open-source двійник Jev

Laya — це перший відкритий прямий аналог Jev, побудований за тією ж філософією: неавторегресивна модель рішень, яка ніколи не генерує вільний текст, а оцінює типізовані запитання за один прямий прохід трансформера (~33 мс на GPU).

Модель натренована за допомогою навчання з підкріпленням на основі строго правильних правил оцінки (RLCD — Reinforcement Learning for Calibrated Decisions), що гарантує математично чесне калібрування ймовірностей.

• Стек та архітектура: енкодер ModernBERT-large (421M параметрів) для англійської мови та mmBERT-base (322M параметрів) для 100+ мов світу.
• Підтримка примітивів: нативна підтримка choice, score та noul із тим самим форматом запитів і відповідей, що й у TypeSafe Jev.
• Контекст документів: підтримує до 1024 токенів за замовчуванням і до 8192 токенів у версії laya-multilingual (max_len=8192).
• Сумісний сервер laya-serve: містить вбудований проксі, який реалізує ендпоінт POST /v1/systemone. Ви можете замінити хмарний Jev у ваших існуючих додатках, просто змінивши baseURL на http://localhost:8000.
• Швидкість та вартість: близько 33 мс на GPU (у 6–8 разів швидше за мережевий виклик до хмарного Jev) і $0 вартості за ліцензією Apache 2.0.

python
Копіювати
from laya import Router

# Preload моделей у пам'ять для миттєвої маршрутизації (<35 мс)
router = Router(preload=True)

state = "Користувач скаржиться на подвійне списання коштів за підписку і вимагає повернення."
questions = {
    "department": {
        "type": "choice",
        "instructions": "Which department should handle this request?",
        "criteria": {
            "billing": "invoices, payments, refunds",
            "tech_support": "bugs, outages, system errors",
            "other": "everything else"
        }
    },
    "churn_risk": {
        "type": "noul",
        "instructions": "Does the user threaten to cancel or express high churn risk?"
    }
}

result = router.predict(state, questions)
print("Відділ:", result["answers"]["department"]["choice"])
print("Ризик відтоку:", result["answers"]["churn_risk"]["noul"])

Відкрити репозиторій на Hugging Face: convaiinnovations/laya →

11.2. GLiNER2.5-Decide від Fastino: 340M схема-орієнтований класифікатор

GLiNER2.5-Decide — це спеціалізована модель від лабораторії Fastino, призначена для операційної класифікації, безпекових фільтрів і маршрутизації завдань без необхідності писати промпти або парсити вихідні токени.

Модель заснована на архітектурі DeBERTa-v3-large (340M параметрів) і перевершує комерційний JevK5 на бенчмарку fast-decisions (60.2% точності проти 57.6% у Jev).

• Динамічний набір міток: список категорій передається безпосередньо у виклику функції під час виконання без перенавчання (Zero-Shot).
• Підтримка Multi-Label: здатна повертати кілька міток одночасно (наприклад, визначити декілька аспектів відгуку чи проблем клієнта) за порогом cls_threshold.
• Мітки з описами (Label Descriptions): якщо назва мітки неоднозначна, їй можна передати розгорнутий опис — модель враховує його при прийнятті рішення.
• Ординарні шкали та QA: підтримує числові рівні терміновості (наприклад, від "0" до "5"), оцінку тональності та бінарні запитання (yes / no) до переданого уривку тексту.
• Мінімальні вимоги до заліза: 340M параметрів дозволяють моделі працювати із затримкою у лічені мілісекунди навіть на звичайному процесорі (CPU).

Відкрити репозиторій на Hugging Face: fastino/GLiNER2.5-Decide →

11.3. CLM-v0.1-8B від Contrastive-LM: контрастивний скоринг дій на базі Qwen3

CLM-v0.1-8B (Contrastive Language Model) — це розробка дослідників зі Stanford та NVIDIA (вересень 2026), створена для блискавичного вибору дій усередині агентних пайплайнів (Computer Use, Tool Calling та верифікація кроків).

Замість повільної покрокової генерації тексту модель працює за контрастивним принципом: вона проектує поточний стан (state) і список можливих дій або викликів інструментів у спільний векторний простір, після чого ранжує їх за косинусною подібністю.

• Стек та архітектура: заморожений енкодер Qwen3-8B у поєднанні з легкими тренованими контрастивними проекційними головами (~20M параметрів).
• Прискорення агентів: забезпечує до 9 разів меншу затримку (latency) порівняно з генеративними LLM під час вибору потрібного інструменту серед великого списку функцій.
• Action Caching (Кешування дій): оскільки стан і дії кодуються роздільно, векторні ембеддінги статичних інструментів або системних функцій можна розрахувати один раз і зберегти в оперативній пам'яті.
• Підтримка локального заліза: відкриті ваги під ліцензією Apache 2.0 та офіційні оптимізації для Apple MLX дозволяють розгортати модель на робочих станціях і Mac з unified memory.

Відкрити репозиторій на Hugging Face: Contrastive-LM/CLM-v0.1-8B →

11.4. Зведена таблиця: Jev проти відкритих System 1 альтернатив

11.5. Як обрати локальну модель під свій стек