Состояние

Когда ты на середине фразы в черновике письма, а браузер падает, черновик исчезает. Сервер его не сохранил. Этот черновик существовал только в состоянии твоего браузера — и падение его стерло.

Состояние — это то, что система помнит прямо сейчас. Не то, что она сохранила на диск. Не то, что лежит в базе данных. Прямо сейчас, в этот момент, с этой сессией, в этом запущенном процессе — что система сейчас знает?

Самая ясная аналогия, которую я нашел: доска посреди совещания. На доске текущая рабочая картинка — схема, которую кто-то нарисовал пять минут назад, список уже принятых решений, вещь, на которую все показывают пальцем. Это состояние. Это не постоянная запись. Когда встреча закончится и кто-то сотрет доску, все исчезнет. Протокол встречи, который ты наберешь и отправишь письмом потом, — другое дело. Это сохранение в базу данных. Сама доска — состояние.

Почему это сбивает людей в AI.

"Stateless" звучит как техническое оскорбление. Но значит всего лишь: когда этот процесс заканчивается, ничего не запоминается. Каждый новый запрос начинается с нуля, с пустой доской. Для простых задач это нормально и часто даже хорошо — процесс чистый, предсказуемый, не съезжает в сторону.

Но агенту, который делает многошаговую задачу, нужно состояние. Ему нужно где-то держать "первый шаг сделан, вот что я нашел, теперь делаю второй". Если процесс убили посередине, а состояние не было сохранено где-то надежно, агент просыпается без доски. Он не знает, что делал. Ты начинаешь заново.

Вопросы, которые заставляет задавать состояние:

• Где эта система хранит свою текущую рабочую картинку? В памяти, в базе данных, во внешнем файле?
• Что произойдет, если процесс упадет до завершения?
• Когда я говорю "продолжи с того места, где остановился", где именно записано это "остановился"?

Для любого AI-процесса, который идет шагами во времени, "как мы управляем состоянием?" — один из самых важных вопросов перед тем, как его собирать. Агент, который теряет нить посреди задачи, почти всегда страдает от проблемы состояния, а не от проблемы модели.

Состояние — это доска. Хранилище — это шкаф с папками. Тебе нужны оба, и когда их путают, начинается большая часть головной боли.