Mistral stellt Le Chonk vor: Mistral Large 4 mit einer Billion Parametern
Mistral Large 4 ist als Vorschauversion mit einer Billion Gesamt- und 49 Milliarden aktiven Parametern verfügbar, trainiert auf 3.800 Grace Blackwell Beschleunigern. Während die API-Kosten hoch sind, sollen die Modellgewichte Ende des Monats veröffentlicht werden.
Mistral hat Le Chaton Fat Le Chonk veröffentlicht
Mistral Large 4 ist ein Modell mit einer Billion Parametern, von denen 49 Milliarden aktiv sind. Es wurde in Mistrals eigenem Rechenzentrum auf 3.800 Grace Blackwell Beschleunigern trainiert. In den meisten Benchmarks liegt es leicht hinter den besten offenen Modellen, spielt aber zumindest in derselben Liga.
Das Modell ist bereits in der Vorschau verfügbar, wobei die API-Preise bei 1,36 $/4,18 $ pro Million Tokens liegen – für ein solches Modell relativ teuer. Die Gewichte sollen Ende des Monats bereitgestellt werden. Da das Reinforcement Learning (RL) noch läuft, könnte sich das Modell weiter verbessern.
Warum das wichtig ist
AnalyseDies zeigt, dass Mistral versucht, mit den stärksten Open-Weight-Modellen zu konkurrieren, wobei hohe API-Preise und verzögerte Gewichtsveröffentlichungen die unmittelbare Zugänglichkeit einschränken.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern