Anthropic суттєво прискорила Claude

Anthropic суттєво прискорила роботу Claude.

У Claude Code час очікування до генерації першого токена зменшився втричі. У чаті, Cowork та API — у 1,5 раза.

По-перше, Claude Code тепер передає моделі історію діалогу у вигляді стиснутого архіву, який швидше передається по мережі.

По-друге, якщо раніше хмарне середовище запускалося після надсилання повідомлення, то тепер воно починає підніматися, щойно користувач починає друкувати. До моменту надсилання промпту середовище вже готове, тому додатковий час на його запуск не витрачається.

У новій версії Claude Code також з’явилася функція idle compaction: якщо розмова від 200 тис. токенів простоювала без дії приблизно 54 хвилини, її автоматично стискають.

Це пов’язано з тим, що кеш промпту живе годину. Стиснення виконують незадовго до скидання кешу, щоб наступне повідомлення не перераховувало весь довгий контекст за повною ціною (changelog).