Były deweloper ChatGPT przedstawia nową klasę modeli AI, które nie generują tekstu
Były deweloper ChatGPT przedstawia nową klasę modeli AI, które nie generują tekstu
Diogo Almeida, współautor metody RLHF, zaprezentował model Jev od TypeSafe AI – innowacyjną architekturę pomijającą generowanie tekstu na rzecz strukturyzowanych danych, działającą do 200 razy szybciej niż standardowe LLM.
Diogo Almeida, były deweloper ChatGPT, współautor techniki RLHF oraz jeden z twórców artykułu naukowego o InstructGPT (metody, która w 2022 roku położyła fundamenty pod powstanie ChatGPT), przedstawił nową klasę modeli zwanych System One Models.
W 2024 roku Almeida założył firmę TypeSafe AI. Po dwóch latach pracy w trybie stealth, spółka oficjalnie ujawniła swój pierwszy model – Jev.
Kluczowa koncepcja
Idea opiera się na założeniu, że dla wielu zadań tekst jest zbędny. Gdy model musi sklasyfikować żądanie, ocenić ryzyko lub wybrać kolejny krok dla agenta, standardowy LLM nadal generuje odpowiedź token po tokenie, co następnie wymaga parsowania.
Jev natychmiast zwraca jednak ustrukturyzowaną odpowiedź wraz z prawdopodobieństwem każdej opcji. Na przykład, zamiast pisać tekst o tym, jak przekierować żądanie użytkownika, bezpośrednio zwraca wymaganą kategorię.
Wydajność i cennik
Dzięki pominięciu generowania tekstu, Jev działa od 20 do 200 razy szybciej niż standardowe LLM w tego typu zadaniach (czas odpowiedzi wynosi 70–500 ms).
Cennik również jest nietypowy:
- $0.042 za 1 milion tokenów wejściowych.
- Tokeny wyjściowe są bezpłatne (ponieważ model nie generuje tekstu, lecz dane strukturalne).
Jev jest obecnie dostępny we wczesnej fazie testów (early access).
Dlaczego to ważne
AnalizaEliminacja generowania tekstu w zadaniach klasyfikacyjnych znacząco redukuje opóźnienia i koszty infrastruktury, co czyni agentów AI znacznie bardziej efektywnymi i skalowalnymi.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Jev i System One AI: Kompletny praktyczny przewodnik po modelu decyzyjnym od TypeSafe
Głęboka analiza inżynieryjna flagowego modelu Jev: architektura System One w kontraście do LLM, prymitywy Choice/Score/Noul, równoległość zapytań, matematyka pewności, przypadki użycia wideo, kod oraz przegląd lokalnych alternatyw open-weight (Laya, GLiNER2.5, CLM-8B).
Sześć pluginów dla DeepSeek Harness, które zmniejszają zużycie tokenów i porządkują kontekst
Przegląd sześciu pluginów dla DeepSeek Harness: darmowy dostęp do modeli, zarządzanie pamięcią, routing agentów i monitorowanie kontekstu.
AI w procesach biznesowych: od diagnostyki do agenta Hermes w środowisku produkcyjnym
Kompleksowy praktyczny playbook B2B: diagnostyka procesów, workflow single-agent, narzędzia, pamięć, bezpieczeństwo, ewaluacja, observability oraz runbooki.
Agenci AI (agenci autonomiczni)
Systemy programowe oparte na modelach językowych (LLM), zdolne do samodzielnego postrzegania stanu środowiska, dekompozycji złożonych celów, wywoływania zewnętrznych narzędzi oraz iteracyjnego korygowania własnych błędów.