Thinking Machines lance Inkling, son premier modèle à poids ouverts

Thinking Machines lance Inkling

Thinking Machines a officiellement lancé Inkling, son tout premier modèle à poids ouverts. Ce modèle impressionne par sa taille : il compte 975 milliards de paramètres au total, dont 41 milliards sont actifs lors de l'inférence. Il est capable de traiter simultanément du texte, des images et de l'audio.

L'accès au modèle est proposé via l'API de la plateforme Tinker, offrant une fenêtre de contexte de 256 000 jetons. Les poids du modèle sont également disponibles sur Hugging Face, où ils supportent une fenêtre de contexte pouvant aller jusqu'à 1 million de jetons.

Résultats et évaluations

Dans l'indice d'intelligence Artificial Analysis, Inkling a obtenu un score de 41 points. Cela en fait le meilleur modèle américain à poids ouverts, dépassant Nemotron 3 Ultra qui avait atteint 38 points.

Personnalisation et ajustement fin

Inkling a été spécifiquement conçu pour être personnalisé et ajusté (fine-tuning) via la plateforme Tinker. Cette approche permet aux développeurs d'adapter le modèle à leurs produits individuels et à leurs flux de travail spécifiques.

Tarification

• Coût par million de jetons (fenêtre de contexte de 64 000) :
  1,87 $ pour les jetons d'entrée / 0,374 $ pour les jetons mis en cache / 4,68 $ pour les jetons de sortie
• Coût par million de jetons (fenêtre de contexte de 256 000) :
  3,74 $ pour les jetons d'entrée / 0,748 $ pour les jetons mis en cache / 9,36 $ pour les jetons de sortie