В последних версиях Claude Code время ожидания до генерации первого токена упало в 3 раза. В чате и APIю – в 1.5 раза.
Как это сделано:
- Claude Code теперь передает историю диалога в виде сжатого архива, который уходит по сети быстрее.
- если раньше облачная среда запускалась после отправки сообщения, то теперь она начинает подниматься, как только вы начали печатать, и к моменту отправки промпта уже готова, так что доп.время на ее запуск не тратится.
Дополнительно, в новой версии Claude Code также добавили функцию idle compaction: если разговор от 200 тыс. токенов простоял без дела около 54 минут, его автоматически сжимают - как раз незадолго до сгорания кэша промпта (он живет 1 час в Claude Code). Это должно помочь с экономией токенов на забытых чатах.
via https://t.me/data_secrets/10174 (хороший канал, только суховатый) changelog - https://github.com/anthropics/claude-code/blob/main/CHANGELOG.md
Я потестил, автосжатие действительно работает, но лучше не забывать чаты и, как советуют мои читателе в Телеграм-канале, лучше самому делать summary-файлы.