Cloudflare veröffentlicht Open-Source-Entscheidungsmodelle Clef und Clef-flash
Cloudflare stellt unter der Apache-2.0-Lizenz die Modelle Clef und Clef-flash vor, die strikt typisierte, probabilistische Ausgaben für Klassifizierung, Scoring und Routing liefern.
Cloudflare hat Clef und Clef-flash veröffentlicht, zwei Open-Source-Entscheidungsmodelle, die unter der Apache-2.0-Lizenz lizenziert sind. Die Gewichte sind auf Hugging Face verfügbar.
Das Kernkonzept eines Entscheidungsmodells besteht darin, dass es keinen Freitext generiert. Stattdessen liefert es strikt typisierte Antworten mit Wahrscheinlichkeiten. Dies macht solche Modelle für eine breite Palette von Aufgaben nützlich, darunter:
- Klassifizierung;
- Scoring;
- schnelle Entscheidungsfindung innerhalb von Pipelines;
- Request-Routing.
Das ursprüngliche Modell Jev wurde erst vor wenigen Wochen veröffentlicht, fand jedoch schnell Aufmerksamkeit: In dieser kurzen Zeit haben bereits viele Akteure eigene Analogien eingeführt, darunter auch OpenAI.
Im Vergleich zu Jev kann Cloudflares Clef mit Bildern arbeiten und verfügt über ein Kontextfenster von 64K gegenüber den 32K von Jev. Hinsichtlich der Geschwindigkeit zeigt sich folgendes Bild:
- Clef: Median-Latenz 209 ms;
- Clef-flash: Median-Latenz 39 ms;
- Jev: Median-Latenz 524 ms.
Auch im Benchmark Jev Decision Index führt Clef.
Parallel dazu hat Cloudflare eine RL-Plattform (Reinforcement Learning) gestartet, die das Feintuning von Clef für spezifische Kundenaufgaben anbietet.
Warum das wichtig ist
AnalyseDies erweitert den Open-Source-Stack für Produktionssysteme, die schnelle, typisierte und messbare Entscheidungen ohne Textgenerierung benötigen. Die Welle von Analogien großer Anbieter beschleunigt zudem die Standardisierung von Entscheidungsmodellen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern