Ship promete reduzir custos de inferência do Claude em 50%

Ship promete reduzir custos de inferência do Claude em 50%

Em vez de chamar diretamente o modelo claude-opus-4-8, basta especificar: ship-like/claude-opus-4-8.

O desenvolvedor testou esta funcionalidade no terminal, utilizando o mesmo modelo da Anthropic e o mesmo prompt, alcançando as economias reivindicadas (veja a demonstração).

A Ideia por trás da Ship

O conceito fundamental da Ship é que nem toda solicitação exige o método de execução mais caro. Tipicamente, um modelo sempre realiza o mesmo forward pass, independentemente da complexidade da tarefa.

A Ship escolhe uma estratégia após receber a requisição. O sistema pode utilizar um único modelo, uma cascata de modelos, um ensemble ou uma combinação com ferramentas, selecionando então a opção mais barata que mantenha a qualidade e o comportamento do modelo original.

Isso não se trata apenas de roteamento para um modelo mais barato. A Ship também garante que características-chave da resposta não mudem: formato, padrões de invocação de ferramentas, falhas e nível geral de capacidade.

As respostas não precisam corresponder token por token. O importante é que sejam comparáveis ao modelo de referência em termos de qualidade e comportamento.

Para o usuário, o preço permanece 50% menor em qualquer caso. Mesmo que uma solicitação específica custe mais à Ship, a empresa cobre a diferença.

O projeto é apoiado pela Thesean Labs — uma equipe composta por ex-especialistas da Anthropic, DeepMind e experts em computação quântica.