Thinking Machines publie Inkling 2 Mini en poids ouverts avec des variantes GGUF locales
Thinking Machines publie Inkling 2 Mini en poids ouverts avec des variantes GGUF locales
Le nouveau modèle compte 26,4 milliards de paramètres, une architecture de transformeur cyclique et trois builds GGUF quantifiés pour un déploiement local.
Thinking Machines a publié Inkling 2 Mini, un modèle de langage à poids ouverts disponible sur Hugging Face : thinkingmachines/Inkling-2-Mini.
Le modèle repose sur une architecture de transformeur cyclique dans laquelle les couches intermédiaires traitent chaque token trois fois. Il compte 26,4 milliards de paramètres et peut être exécuté localement sur un ordinateur portable avec 12 Go de mémoire.
Selon les notes de publication, le taux de refus dans les tests est passé de 100 % à 0 %, tandis que le modèle a conservé 98 % de sa précision initiale sur le benchmark MMLU.
Les développeurs ont également publié trois versions quantifiées au format GGUF, allant de 8,67 Go à 16,53 Go. Les builds GGUF non censurés sont disponibles ici : AtomicChat/Inkling-2-Mini-Uncensored-GGUF.
Pourquoi c'est important
AnalyseLes modèles à poids ouverts avec versions GGUF facilitent l’exécution locale de grands modèles de langage, mais les variantes non censurées nécessitent une évaluation de sécurité rigoureuse avant tout déploiement.
Discuter dans la communauté
Partagez vos questions et vos idées avec les développeurs
Lié dans l'écosystème
Guides pratiques, terminologie clé et compétences d'agents
Thinking Machines publie Inkling 2 Mini, un modèle à poids ouverts pour le codage local
Thinking Machines a publié Inkling 2 Mini, un modèle à poids ouverts à l’architecture transformer cyclique, capable de fonctionner localement sur Mac et de coder sans connexion internet.
Famille Llama (Meta Llama)
Série de modèles de langage fondamentaux ouverts développés par Meta (Llama 3, 3.1, 3.3), devenus le standard industriel pour l'écosystème Open Weights, l'IA locale et le fine-tuning d'entreprise.
Meta Llama (Le standard ouvert de référence pour l'IA)
La série phare des modèles de langage ouverts de Meta (Llama 3, 3.3). Disponible en téléchargement libre, modifiable et exécutable localement sur vos propres serveurs sans restrictions ni censure.
Thinking Machines publie le transformeur en boucle Inkling 2 Mini
Thinking Machines, la startup fondée par Mira Murati, a publié Inkling 2 Mini, un modèle d’IA local basé sur une architecture looped transformer qui répète les couches intermédiaires pour approfondir le raisonnement sans augmenter le nombre de paramètres.