Thinking Machines veröffentlicht Gewichte von Inkling 2 Small
Thinking Machines veröffentlicht Gewichte von Inkling 2 Small
Inkling 2 Small ist ein MoE-Modell mit 594 Milliarden Parametern und 17 Milliarden aktiven Parametern; das Pretraining dauerte 68 Stunden auf 12 Billionen Tokens.
Thinking Machines veröffentlicht Gewichte von Inkling 2 Small
Inkling 2 Small ist ein Mixture-of-Experts-Modell (MoE) mit insgesamt 594 Milliarden Parametern und 17 Milliarden aktiven Parametern. Laut Ankündigung wurde das Pretraining in nur 68 Stunden abgeschlossen, wobei 12 Billionen Tokens verwendet wurden. Reinforcement Learning (RL) dauerte weitere 9 Tage auf einem Cluster mit 2.048 GPUs.
Das Modell wird als konkurrenzfähig im Vergleich zu chinesischen Modellen beschrieben, die zwei bis drei Monate alt sind. Für den Betrieb sind zwei B300-GPUs oder vier H200-GPUs erforderlich. Eine größere Version wird erwartet.
Warum das wichtig ist
AnalyseDer Release zeigt, wie schnell große MoE-Modelle mit offenen Gewichten erscheinen können, unterstreicht aber auch, dass der Betrieb weiterhin Hochleistungs-GPU-Infrastruktur erfordert.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Mistral AI (Europäische offene und effiziente Modelle)
Eine Reihe hochleistungsfähiger offener und kommerzieller Modelle des französischen Startups Mistral AI (Mistral 7B, Mixtral 8x7B, Mistral Large). Bekannt für ihre Kompaktheit, Geschwindigkeit und den respektvollen Umgang mit Datenschutz.
Offene Gewichte vs. geschlossene KI-APIs (Open vs. Closed AI)
Vergleich zweier grundlegender Philosophien der KI-Verbreitung: Offene Gewichte (Open Weights – Llama, Mistral, DeepSeek), die heruntergeladen und auf eigenen Servern betrieben werden können, im Gegensatz zu geschlossenen Cloud-APIs (Closed API – OpenAI, Anthropic, Google), bei denen der Zugriff ausschließlich über ein Abonnement erfolgt.
Tencent veröffentlicht Hy4 Flash: Claude-Haiku-Konkurrent mit 1-Million-Tokens-Kontext
Tencent hat Hy4 Flash vorgestellt, ein natives multimodales Modell mit 1 Million Tokens Kontextfenster und niedrigen Inferenzkosten. Laut Tencent ist es für Alltagsaufgaben mit Claude Haiku 5.5 im High-Modus vergleichbar.
Qwen4-Max veröffentlicht: 50 % weniger Tokens und niedrigere Kosten pro Aufgabe
Qwen4-Max bringt eine MoE-Architektur, ein 1-Million-Tokens-Kontextfenster, integrierte Bildunterstützung und deutlich geringere Kosten.