Thinking Machines lanza el transformador en bucle Inkling 2 Mini




Thinking Machines, la startup fundada por Mira Murati, ha lanzado Inkling 2 Mini, un modelo basado en la arquitectura looped transformer. Es el mismo enfoque que, según especulaciones, podría estar detrás de GPT-6 Astra.
La idea central es sencilla: en lugar de ejecutar una pila fija de capas diferentes exactamente una vez, el modelo pasa el estado oculto por el mismo bloque de capas varias veces antes de generar el siguiente token. Esto añade profundidad de razonamiento sin aumentar el número de parámetros ni gastar tokens adicionales en razonar.
Muchos suponen que esta arquitectura también podría haber influido en Fable 5.2 y GPT Sol. El bucle de capas podría ayudar a explicar la reciente reducción de costes de los modelos y la mayor eficiencia en el consumo de tokens observada en los últimos meses.
Thinking Machines ha publicado una versión compacta de looped transformer pensada para ejecución local:
- 26.4B parámetros totales;
- aproximadamente 3.4B parámetros activos;
- alrededor de 5.4B activaciones de pesos por token gracias a los pases repetidos de capas.
El modelo tiene 24 capas organizadas en cuatro bloques de seis. El primer y el último bloque se ejecutan una vez, mientras que los dos bloques intermedios se ejecutan tres veces cada uno. Como resultado, cada token requiere 48 aplicaciones de capas. Solo se repiten las capas intermedias porque, según los autores, realizan un razonamiento más abstracto. En pruebas, esto dio resultados significativamente mejores que hacer bucles en las últimas 12 capas.
En benchmarks, el modelo rinde a un nivel comparable a Qwen3.8-27B, e incluso superior en algunas métricas, a pesar de tener menos parámetros. Para despliegue local, es una opción realmente interesante.
Por qué es importante
AnálisisInkling 2 Mini demuestra que los transformadores en bucle pueden aumentar la profundidad del razonamiento sin crecer proporcionalmente en tamaño. Esto es importante para IA local y en el edge, donde la memoria y la potencia de cómputo son limitadas.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Thinking Machines lanza Inkling 2 Mini, un modelo de pesos abiertos para programación local
Thinking Machines publicó Inkling 2 Mini, un modelo de pesos abiertos con arquitectura transformer cíclica que puede ejecutarse localmente en un Mac y usarse para programar sin conexión.
OpenAI lanza GPT 6.2 Astra y Sol
OpenAI presentó GPT 6.2 Astra y Sol; Astra lidera pruebas de agentes y ofrece precios más competitivos frente a otros modelos.
Parte I. Arquitectura de Agentes de IA: Fundamentos
Los once bloques constructivos fundamentales de un agente de IA: taxonomía de modelos, bucle de ejecución, ingeniería de prompts, destilación, skills, memoria, function calling y FinOps.
Parte II. Arquitectura de agentes de IA: del modelo a la memoria y las herramientas
Inmersión profunda de ingeniería: tokenización, KV-cache, determinismo del muestreo, stack de entrenamiento, cuantización, ingeniería de contexto, stack de seguridad, RAG en producción, ReAct y sistemas swarm multiagente.