Un ex-développeur de ChatGPT dévoile une nouvelle classe de modèles d'IA sans génération de texte
Un ex-développeur de ChatGPT dévoile une nouvelle classe de modèles d'IA sans génération de texte
Diogo Almeida, co-auteur du RLHF, présente Jev par TypeSafe AI : une nouvelle classe de modèles d'IA qui contourne la génération de texte pour produire des données structurées, fonctionnant jusqu'à 200 fois plus vite que les LLM standards.
Diogo Almeida, ancien développeur de ChatGPT, co-auteur du RLHF et l'un des auteurs du papier InstructGPT (la technique qui a jeté les bases de ChatGPT en 2022), a introduit une nouvelle classe de modèles appelés « System One Models ».
En 2024, Almeida a fondé TypeSafe AI. Après deux années passées en mode furtif, l'entreprise a officiellement dévoilé son premier modèle — Jev.
L'idée centrale
Le concept repose sur le fait que, pour un grand nombre de tâches, le texte est tout simplement inutile. Si un modèle doit classifier une requête, évaluer un risque ou choisir la prochaine étape pour un agent, un LLM standard génère toujours la réponse token par token, ce qui doit ensuite être analysé.
Jev, en revanche, renvoie immédiatement une réponse structurée accompagnée de la probabilité de chaque option. Par exemple, au lieu d'écrire du texte sur la manière de router la demande d'un utilisateur, il retourne directement la catégorie requise.
Performance et tarification
Grâce à l'absence de génération de texte, Jev fonctionne 20 à 200 fois plus vite que les LLM standards sur ces tâches (70 à 500 ms).
La tarification est également inhabituelle :
- 0,042 $ par million de tokens d'entrée.
- Les tokens de sortie sont gratuits (puisque le modèle ne génère pas de texte, mais produit des données structurées).
Jev est actuellement disponible en accès anticipé.
Pourquoi c'est important
AnalyseCette avancée est cruciale car l'élimination de la génération de texte pour les tâches de classification réduit drastiquement la latence et les coûts d'infrastructure, rendant les agents IA considérablement plus efficaces et scalables.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs