Thinking Machines lanza Inkling 2 Mini de pesos abiertos con variantes GGUF locales
Thinking Machines lanza Inkling 2 Mini de pesos abiertos con variantes GGUF locales
El nuevo modelo tiene 26.400 millones de parámetros, una arquitectura de transformador cíclica y tres compilaciones GGUF cuantizadas para uso local.
Thinking Machines ha lanzado Inkling 2 Mini, un modelo de lenguaje con pesos abiertos disponible en Hugging Face: thinkingmachines/Inkling-2-Mini.
El modelo se basa en una arquitectura de transformador cíclico en la que las capas intermedias procesan cada token tres veces. Tiene 26.400 millones de parámetros y puede ejecutarse localmente en un portátil con 12 GB de memoria.
Según las notas de lanzamiento, la tasa de rechazo en pruebas cayó del 100% al 0%, mientras que el modelo mantuvo el 98% de su precisión original en el benchmark MMLU.
Los desarrolladores también publicaron tres versiones cuantizadas en formato GGUF, de entre 8,67 GB y 16,53 GB. Las compilaciones GGUF sin censura están disponibles aquí: AtomicChat/Inkling-2-Mini-Uncensored-GGUF.
Por qué es importante
AnálisisLos modelos de pesos abiertos con versiones GGUF facilitan la ejecución local de grandes modelos de lenguaje, aunque las variantes sin censura exigen una evaluación de seguridad cuidadosa antes de su despliegue.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Thinking Machines lanza Inkling 2 Mini, un modelo de pesos abiertos para programación local
Thinking Machines publicó Inkling 2 Mini, un modelo de pesos abiertos con arquitectura transformer cíclica que puede ejecutarse localmente en un Mac y usarse para programar sin conexión.
Familia Llama (Meta Llama)
Serie de modelos de lenguaje fundamentales y abiertos de Meta (Llama 3, 3.1, 3.3) que se han convertido en el estándar industrial de la ecosistema Open Weights, IA local y fine-tuning corporativo.
Meta Llama (Estándar Abierto Principal de Inteligencia Artificial)
Serie insignia de modelos de lenguaje abiertos de Meta (Llama 3, 3.3). Disponible para descarga gratuita, modificación y ejecución local en servidores propios sin restricciones ni censura.
Thinking Machines lanza el transformador en bucle Inkling 2 Mini
Thinking Machines, la startup fundada por Mira Murati, lanzó Inkling 2 Mini, un modelo de IA local basado en una arquitectura looped transformer que repite capas intermedias para profundizar el razonamiento sin aumentar los parámetros.