Cloudflare lance Clef et Clef-flash : des modèles de décision open-source
Cloudflare publie sous licence Apache 2.0 les modèles de décision open-source Clef et Clef-flash, offrant des sorties probabilistes strictement typées pour la classification, le scoring et le routage.
Cloudflare a publié Clef et Clef-flash, deux modèles de décision open-source distribués sous la licence Apache 2.0. Les poids du modèle sont disponibles sur Hugging Face.
Le concept clé d'un modèle de décision est qu'il ne génère pas de texte libre. Il retourne à la place des réponses strictement typées accompagnées de probabilités. Cette approche rend ces modèles particulièrement utiles pour une grande variété de tâches, notamment :
- la classification ;
- le scoring ;
- la prise de décision rapide au sein des pipelines ;
- le routage des requêtes.
Le modèle original Jev n'a été lancé que quelques semaines plus tôt, mais il a rapidement attiré l'attention : dans cet intervalle, plusieurs acteurs ont déjà introduit leurs propres analogues, y compris OpenAI.
Par rapport à Jev, Clef de Cloudflare peut traiter des images et dispose d'une fenêtre de contexte de 64K contre 32K pour Jev. En termes de rapidité :
- Clef : latence médiane de 209 ms ;
- Clef-flash : latence médiane de 39 ms ;
- Jev : latence médiane de 524 ms.
Sur le benchmark Jev Decision Index, Clef prend également la tête.
En parallèle, Cloudflare a lancé une plateforme RL (Reinforcement Learning) permettant d'affiner (fine-tune) Clef pour des tâches spécifiques aux clients.
Pourquoi c'est important
AnalyseCette initiative enrichit la pile open-source destinée aux systèmes de production nécessitant des décisions rapides, typées et mesurables sans génération de texte. La multiplication des analogues par les grands acteurs accélère la standardisation des modèles de décision.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs