слов.арь · bisovka

объясни compaction --простыми-словами

Иллюстрация к термину «Сжатие»

Сжатие

КороткоКраткое пересказывание чата, чтобы он продолжал помещаться.

Представь весь свой ужин на День благодарения. Индейка, начинка, пюре, пирог, который никто не просил, но все съели. Теперь вывали все это в блендер и нажми кнопку.

Технически это все еще ужин на День благодарения. Те же ингредиенты, все внутри. Но это уже совсем не то же самое, и обратно из блендера ты это не соберешь.

Это compaction.

Вот что происходит. AI думает внутри комнаты, и все, что ты сказал за весь разговор, сложено в этой комнате. Когда комната заполняется, AI больше не может запихивать туда новое. Поэтому, чтобы продолжить, он берет раннюю часть разговора, сдавливает ее в короткое резюме и идет дальше уже с этим пересказом вместо полной истории.

Суть выживает. Детали превращаются в кашу.

Главный признак — смена характера. AI был точным, собранным, помнил именно тот способ работы, который тебе нужен. Потом случается compaction, и он становится более расплывчатым. Чуть мимо. Тянется за правильным ответом, но хватает достаточно похожий. Он не поглупел. Он просто теперь работает по перемолотой версии.

И вот что должно тебя раздражать: когда происходит compaction, именно AI решает, что стоит сохранить. Не ты. Он просматривает часы переписки, пишет свой маленький пересказ "что мы делали", и одна деталь, которая была для тебя реально важна, может тихо исчезнуть в блендере.

Поэтому я обращаюсь с этим так: я стараюсь никогда не давать сессии сжаться самой.

Как только я вижу, что комната заполняется, я останавливаюсь. Не жду, пока включится блендер. Вместо этого я:

  1. Начинаю свежую сессию, чтобы получить чистую пустую комнату.
  2. Пишу короткий handoff о том, что важно: что мы строим, что уже решено, что осталось сделать.
  3. Вставляю это в новый чат и продолжаю ровно с того места, где был, с сохраненными деталями, потому что я выбрал, что оставить.

Несколько вещей, которые стоит знать, чтобы это не застало тебя врасплох:

Когда модель сжимает, ручка у нее. Когда ты начинаешь заново с handoff, ручка у тебя.

← все термины