OpenAI dévoile le mode Ultrafast pour GPT-5.6 Sol

Il s'agit de la même inférence exécutée sur les infrastructures Cerebras. L'entreprise promet une accélération de 14x (!), permettant au modèle de générer jusqu'à 750 tokens par seconde.

Pour un géant comme Sol, cette vitesse est tout simplement monumentale. Elle est rendue possible par l'architecture Wafer-Scale Engine de Cerebras, qui maintient les poids du modèle directement sur d'immenses puces, éliminant ainsi la nécessité de transférer ces données entre la mémoire et le stockage.

Dans la vidéo de démonstration, on observe un speedrun du benchmark HLE (Humanity's Last Exam). L'intégralité du test a été réalisée en un peu plus de 11 heures. À titre de comparaison, Claude Fable a nécessité près de 80 heures pour effectuer la même opération.

Actuellement, ce mode n'est accessible qu'à un groupe restreint d'utilisateurs via l'API, mais il pourrait bientôt être déployé auprès des utilisateurs réguliers, bien que cela implique probablement un coût significatif.