Возможно, вы замечали что компакшен в кодексе работает сильно лучше чем в клауде, и после него реже возникает ощущение произошедшей лоботомии. Этот фокус получался за счет того что компакшен происходит на их сервере и учитывает не только output токены (которые видит клиент), но и reasoning (который скрыт и показан в виде короткого саммари)
Сейчас они решили пойти еще дальше и вообще убрать компакшен (по определению сжимающий с потерями) и сделать по другому: модель в курсе текущего размера контекста, умеет делать операцию "а вот отсюда давай продолжим занулив весь прошлый контекст", а так-же "давай вот это сохраним как заметку" и "давай поищем в прошлой истории чата до зануления".
Включается это либо с features.context_management.experimental_mode в кодексе, или для pi уже сделали расширение с таким поведением (правда там используется форк pi, ибо в апстриме пока не хватает нужных хуков)
Но хорошо это работает только с gpt-6-astra, другие модели не готовы к таким революционным фокусам
https://github.com/fitchmultz/pi-posthorse
Сейчас они решили пойти еще дальше и вообще убрать компакшен (по определению сжимающий с потерями) и сделать по другому: модель в курсе текущего размера контекста, умеет делать операцию "а вот отсюда давай продолжим занулив весь прошлый контекст", а так-же "давай вот это сохраним как заметку" и "давай поищем в прошлой истории чата до зануления".
Включается это либо с features.context_management.experimental_mode в кодексе, или для pi уже сделали расширение с таким поведением (правда там используется форк pi, ибо в апстриме пока не хватает нужных хуков)
Но хорошо это работает только с gpt-6-astra, другие модели не готовы к таким революционным фокусам
https://github.com/fitchmultz/pi-posthorse