OpenAI stellt Ultrafast-Modus für GPT-5.6 Sol vor

Dies basiert auf derselben Inferenztechnologie auf Cerebras-Hardware. Das Unternehmen verspricht eine Beschleunigung um den Faktor 14 (!), wobei das Modell in der Lage ist, bis zu 750 Tokens pro Sekunde zu generieren.

Für ein so großes Modell wie Sol ist dies eine schlichtweg monumentale Geschwindigkeitssteigerung. Diese Leistung wird durch die Wafer-Scale Engine Architektur von Cerebras erreicht, bei der die Modellgewichte direkt auf riesigen Chips gespeichert bleiben. Dadurch entfällt das zeitraubende Hin- und Herschieben der Daten zwischen Speicher und Festplatte.

In einem Demonstrationsvideo ist ein Speedrun des HLE-Benchmarks (Humanity's Last Exam) zu sehen. Der gesamte Benchmark-Durchlauf dauerte nur etwas über 11 Stunden. Zum Vergleich: Claude Fable benötigte für denselben Durchlauf nahezu 80 Stunden.

Derzeit steht dieser Modus nur einer ausgewählten Gruppe von Nutzern über die API zur Verfügung. Es ist jedoch damit zu rechnen, dass er bald auch für reguläre Nutzer zugänglich gemacht wird – allerdings voraussichtlich zu einem erheblichen Preis.

Warum das wichtig ist

Dieser neue Modus verbessert die Leistungsfähigkeit der OpenAI-Modelle erheblich, was sich unmittelbar auf die Datenverarbeitungsgeschwindigkeit in verschiedenen Anwendungen auswirken könnte. Er eröffnet Entwicklern und Unternehmen, die KI in ihre operativen Prozesse integrieren, völlig neue Möglichkeiten.