Anthropic znacząco przyspiesza Claude

Anthropic znacząco przyspieszyła działanie Claude.

W Claude Code czas oczekiwania na wygenerowanie pierwszego tokenu spadł trzykrotnie. W czacie, Cowork i API jest 1,5 raza szybciej.

Po pierwsze, Claude Code teraz przekazuje modelowi historię rozmowy jako skompresowane archiwum, które szybciej przesyła się przez sieć.

Po drugie, wcześniej środowisko w chmurze uruchamiało się dopiero po wysłaniu wiadomości. Teraz zaczyna się podnosić w momencie, gdy zaczynasz pisać, więc w chwili wysłania promptu jest już gotowe, dzięki czemu nie trzeba czekać na jego uruchomienie.

W nowej wersji Claude Code dodano też funkcję idle compaction: jeśli rozmowa o długości 200 tys. tokenów lub więcej pozostawała bezczynna przez około 54 minuty, jest automatycznie kompresowana.

Chodzi o to, że pamięć podręczna promptu żyje dokładnie godzinę. Kompresja jest wykonywana tuż przed resetem cache, aby następna wiadomość nie przeliczała całego długiego kontekstu po pełnej cenie (changelog).