OpenAI Apresenta Modo Ultrafast para o GPT-5.6 Sol
OpenAI Apresenta Modo Ultrafast para o GPT-5.6 Sol
A OpenAI revelou um novo modo Ultrafast para o GPT-5.6 Sol, prometendo melhorias significativas na velocidade de inferência. Graças à nova arquitetura Cerebras, o modelo consegue gerar até 750 tokens por segundo.
OpenAI Apresenta Modo Ultrafast para o GPT-5.6 Sol
Esta é a mesma inferência realizada na plataforma Cerebras. A empresa promete uma aceleração de 14x (!), com o modelo capaz de gerar até 750 tokens por segundo.
Para um gigante como o Sol, esta é simplesmente uma velocidade monumental. O feito é possível porque a arquitetura Wafer-Scale Engine da Cerebras mantém os pesos do modelo diretamente em chips enormes, eliminando a necessidade de transferi-los entre memória e armazenamento.
No vídeo demonstrativo, há um speedrun do benchmark HLE (Humanity's Last Exam). Todo o teste levou pouco mais de 11 horas. Em contraste, o Claude Fable levou quase 80 horas para realizar a mesma execução.
Atualmente, o modo estará disponível apenas para um grupo seleto de usuários via API, mas pode chegar em breve aos usuários comuns (embora venha com um preço elevado).
Por que isso importa
AnáliseEste novo modo aprimora significativamente o desempenho dos modelos da OpenAI, o que pode impactar substancialmente as velocidades de processamento de dados em diversas aplicações. Abre novas possibilidades para desenvolvedores e empresas que integram IA em suas operações.
Debater na comunidade
Compartilhe suas dúvidas e insights com desenvolvedores