Anthropic существенно ускорили Claude

В Claude Code время до первого токена сократилось в 3 раза, в чате, Cowork и API — в 1,5 раза.
Anthropic существенно ускорили Claude.
В Claude Code время ожидания до генерации первого токена упало в 3 раза. В чате, в Cowork и в API — в 1,5 раза.
Во-первых, Claude Code теперь передает модели историю диалога в виде сжатого архива, который уходит по сети быстрее.
Во-вторых, если раньше облачная среда запускалась после отправки сообщения, то теперь она начинает подниматься, как только вы начали печатать, и к моменту отправки промпта уже готова, так что доп. время на ее запуск не тратится.
Кстати, в новой версии Claude Code также добавили функцию idle compaction: если разговор от 200 тыс. токенов простоял без дела около 54 минут, его автоматически сжимают.
Дело в том, что кэш промпта живет как раз час, и сжатие делают незадолго до того, как кэш сбросится, чтобы следующее сообщение не пересчитывало весь длинный контекст по полной цене (changelog).
Почему это важно
АналитикаБолее быстрая генерация и idle compaction снижают задержки и стоимость длинных диалогов в Claude Code.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками