Qwen3.8-27B erreicht auf Laptops 70 Tokens pro Sekunde dank DFlash 2
Die neue Technologie DFlash 2 beschleunigt das Modell Qwen3.8-27B auf Laptops auf bis zu 70 Tokens pro Sekunde, ohne dabei Kompromisse bei der Ausgabequalität einzugehen.
Qwen3.8-27B erreicht auf Laptops 70 Tokens pro Sekunde
Das neu veröffentlichte DFlash 2 markiert eine neue Generation des spekulativen Decodings, basierend auf Block-Diffusion.
DFlash 2 beschleunigt Qwen3.8-27B auf einem MacBook Pro mit M5 Max-Chip auf 70 Tokens pro Sekunde. Die Beschleunigung des autoregressiven Decodings beträgt das 4,6-Fache, während die finale Ausgabe vollständig identisch mit dem Originalmodell bleibt – buchstäblich kein einziges abweichendes Token.
Neue Funktionen
Neue Draft-Modelle für Qwen3.8-27B sind bereits verfügbar und bieten native Unterstützung für SGLang, vLLM, llama.cpp und oMLX.
Kern des Ansatzes
Weitere Informationen zum Ansatz finden Sie unter: DFlash 2
Warum das wichtig ist
AnalyseTechnologien wie DFlash 2 steigern die Leistungsfähigkeit von KI-Modellen erheblich und ermöglichen deren Einsatz auf zugänglicheren Endgeräten. Dies eröffnet Entwicklern und Forschern im Bereich der künstlichen Intelligenz neue Möglichkeiten.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
JSON – strukturierte Daten für Anwendungen, APIs und KI-Agenten
Ein umfassender praktischer Leitfaden zum JSON-Format: Syntaxregeln, Serialisierung über parse/stringify, Arbeit mit REST-APIs, JSON Schema und strukturierter Output für künstliche Intelligenz.
DOCX- und XLSX-Formate: Wann ein vollwertiges finales Dokument von KI erforderlich ist
Ein umfassender praktischer Leitfaden zur Generierung und Verarbeitung von DOCX-Dokumenten und XLSX-Tabellen mit KI: Vergleich mit Markdown und CSV, Prompt-Engineering, Arbeit mit Formeln und Automatisierung im Code.
Binance veröffentlicht Untersuchung zum Diebstahl von 6,3 Mrd. US-Dollar
Die Untersuchung verbindet den Diebstahl mit einem manipulierten Homebrew, einem gefälschten Interview und dem Missbrauch eines internen KI-Tools von Binance.
Reddit-Nutzer erklärt, warum Claude-Code-Wochenlimits fast viermal schneller verbraucht werden
Ein Reddit-Nutzer verglich den Token-Verbrauch über zwei Wochen und stellte fest, dass auf jedes 1 % des Wochenlimits von Claude Code deutlich weniger Ausgabe-Tokens entfallen; Subagents, Reasoning-Dauer und UI-Aktualisierungen gelten als mögliche Ursachen.