Ex-ChatGPT-Entwickler stellt neue Modellklasse vor, die ohne Textgenerierung auskommt

Diogo Almeida, ein ehemaliger ChatGPT-Entwickler, Mitautor der Reinforcement Learning from Human Feedback (RLHF)-Technik und einer der Autoren des InstructGPT-Papiers (die Grundlage für ChatGPT im Jahr 2022), hat eine neue Klasse von Modellen vorgestellt, die als "System One Models" bezeichnet werden.

Im Jahr 2024 gründete Almeida das Unternehmen TypeSafe AI. Nach zwei Jahren Arbeit im Verborgenen hat das Unternehmen nun offiziell sein erstes Modell – Jev – präsentiert.

Die Kernidee

Das Konzept basiert auf der Erkenntnis, dass Text für eine Vielzahl von Aufgaben schlicht unnötig ist. Wenn ein Modell eine Anfrage klassifizieren, ein Risiko bewerten oder den nächsten Schritt für einen Agenten auswählen muss, generiert ein Standard-LLM die Antwort dennoch tokenweise, was anschließend geparst werden muss.

Jev hingegen liefert sofort eine strukturierte Antwort zusammen mit der Wahrscheinlichkeit für jede Option. Anstatt beispielsweise Text darüber zu schreiben, wohin eine Nutzeranfrage weitergeleitet werden soll, gibt das Modell direkt die erforderliche Kategorie aus.

Leistung und Preisgestaltung

Durch das Überspringen der Textgenerierung arbeitet Jev bei solchen Aufgaben 20–200 Mal schneller als herkömmliche LLMs (mit Latenzzeiten von 70–500 ms).

Auch die Preisgestaltung ist ungewöhnlich:

• 0,042 USD pro 1 Million Eingabe-Tokens.
• Ausgabe-Tokens sind kostenlos (da das Modell keinen Text generiert, sondern strukturierte Daten ausgibt).

Jev ist derzeit im Early Access verfügbar.