Thinking Machines veröffentlicht Inkling 2 Mini mit offenen Gewichten und lokalen GGUF-Versionen
Thinking Machines veröffentlicht Inkling 2 Mini mit offenen Gewichten und lokalen GGUF-Versionen
Das neue Sprachmodell hat 26,4 Milliarden Parameter, eine zyklische Transformer-Architektur und drei quantisierte GGUF-Builds für den lokalen Einsatz.
Thinking Machines hat Inkling 2 Mini veröffentlicht, ein Sprachmodell mit offenen Gewichten auf Hugging Face: thinkingmachines/Inkling-2-Mini.
Das Modell basiert auf einer zyklischen Transformer-Architektur, bei der mittlere Schichten jedes Token dreimal verarbeiten. Es hat 26,4 Milliarden Parameter und kann lokal auf einem Laptop mit 12 GB Speicher ausgeführt werden.
Laut den Release-Notes sank die Ablehnungsrate in Tests von 100 % auf 0 %, während das Modell im MMLU-Benchmark 98 % seiner ursprünglichen Genauigkeit beibehielt.
Die Entwickler haben außerdem drei quantisierte GGUF-Versionen zwischen 8,67 GB und 16,53 GB veröffentlicht. Unzensierte GGUF-Builds sind hier verfügbar: AtomicChat/Inkling-2-Mini-Uncensored-GGUF.
Warum das wichtig ist
AnalyseOpen-Weights-Modelle mit GGUF-Builds erleichtern die lokale Nutzung großer Sprachmodelle, erfordern bei unzensierten Varianten aber eine sorgfältige Sicherheitsbewertung vor dem Einsatz.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Thinking Machines veröffentlicht Inkling 2 Mini: ein Open-Weights-Modell für lokale Programmierung
Thinking Machines hat Inkling 2 Mini mit offenen Gewichten und zyklischer Transformer-Architektur veröffentlicht; das Modell lässt sich lokal auf einem Mac nutzen und konnte offline einen Flugsimulator erstellen.
Llama-Familie (Meta Llama)
Eine Reihe fundamentaler Open-Source-Sprachmodelle von Meta (Llama 3, 3.1, 3.3), die zum Industriestandard für Ökosysteme mit offenen Gewichten, lokale KI und unternehmensspezifisches Fine-Tuning geworden sind.
Meta Llama (Der führende offene KI-Standard)
Die Flaggschiff-Serie der offenen Sprachmodelle von Meta (Llama 3, 3.3). Verfügbar zum kostenlosen Download, zur Modifikation und zum lokalen Betrieb auf eigenen Servern ohne Einschränkungen oder Zensur.
Thinking Machines veröffentlicht geloopten Transformer Inkling 2 Mini
Thinking Machines, das Startup von Mira Murati, hat Inkling 2 Mini veröffentlicht: ein lokales KI-Modell auf Basis einer looped-transformer-Architektur, das mittlere Schichten wiederholt, um das Reasoning zu vertiefen, ohne die Parameterzahl zu erhöhen.