База знаний

Что произошло

Вы прокручивали длинный чат назад и наткнулись на розовую пунктирную линию с небольшой плашкой Контекст сжат. Ничего не сломалось, ничего не удалено, и ничего не требует вашего внимания. Вот что это значит.

Почему чаты сжимаются

Модель отвечает, читая весь чат до текущего момента, но объём текста, который она может охватить за раз, ограничен — это её контекстное окно.

Когда чат становится достаточно длинным, Lexika сжимает его старую часть в краткую сводку и передаёт модели эту сводку вместо самих сообщений. Чат продолжается, а модель по-прежнему отвечает с пониманием всего, что было раньше, — просто самая старая часть представлена в сжатом виде.

Lexika делает это сама. Нет ни кнопки, которая запускает сжатие, ни настройки, которая им управляет, ни переключателя, который его отключает.

Что сохраняется и что читает модель

Окно, которое открывается по нажатию на метку, объясняет это одним предложением:

Сообщения до 14 марта в 09:20 сведены в эту сводку — модель читает её вместо исходных сообщений, которые по-прежнему видны в переписке.

Дата — это момент, до которого доходит сводка, в вашем формате времени.

Здесь две разные вещи, и их стоит чётко разделять:

	Вы видите	Модель читает
Выше границы (старые сообщения)	Все исходные сообщения, без сокращений	Сводку
Ниже границы (новые сообщения)	Все исходные сообщения, без сокращений	Все сообщения, дословно

Ваша переписка не тронута. Прокручивайте вверх сколько угодно — каждый ваш вопрос и каждый полученный ответ на месте, слово в слово. Сжатие меняет то, что передаётся модели, а не то, что чат показывает вам.

Точка отсечения — это конкретный момент: время последнего сообщения, вошедшего в сжатый контекст. Сообщения, отправленные в этот момент или раньше, охвачены сводкой. Всё, что после, доходит до модели в том виде, в каком было написано.

По мере роста чат может сжиматься несколько раз, и при каждом сжатии граница сдвигается вперёд.

Как это видно в интерфейсе

У всех этих меток один и тот же розовый акцент, а плашка на границе, плавающая кнопка и окно со сводкой отмечены одним значком истории — часами со стрелкой назад.

• Строка границы. Розовая пунктирная линия тянется от обоих краёв к небольшой плашке по центру с надписью Контекст сжат. Она стоит сразу после последнего сообщения, охваченного сводкой. Нажмите на плашку, чтобы прочитать сводку.
• Пунктир у края. Рядом с каждым охваченным сообщением у конечного края переписки идёт короткий розовый пунктир — справа в русском интерфейсе, слева в арабском. Вместе они складываются в одну непрерывную линию, которая показывает, как далеко назад доходит сводка. Если навести на неё курсор, появится подсказка Контекст сжат. Это пассивная метка: она лишь называет себя — не более того.
• Плавающий индикатор. Когда всё, что вы видите на экране, находится выше границы, внизу переписки рядом со стрелкой перехода к последним сообщениям появляется небольшая круглая кнопка с розовой обводкой и значком истории. Её подпись — Вы читаете сжатый контекст. Нажатие на неё открывает сводку.
• Розовый в указателе вопросов. В указателе вдоль конечного края переписки вопросы из сжатой части окрашены в розовый вместо обычного нейтрального цвета — в покое он приглушён, при наведении становится ярче, — так что с одного взгляда видно, как далеко назад доходит сводка.

Полезно знать

Часто вы не увидите никакой метки сжатия, даже если чат уже сжимался. Чат открывается на последних сообщениях, и если ни одно из них не охвачено сводкой, отмечать нечего. Все эти метки появляются только тогда, когда вы прокрутите назад до сообщения, охваченного сводкой.

Как прочитать сводку

Сводка открывается с плашки на границе или с плавающего индикатора — но не с пунктира у края.

Окно называется Сжатый контекст. В нём показано процитированное выше предложение с подставленной датой отсечения, затем сама сводка обычным текстом в прокручиваемом поле и кнопка Закрыть. Это поле — всё, что модель читает вместо ваших старых сообщений, и показано оно ровно в том виде, в каком было написано.

Как получать хорошие ответы в длинном чате

• Если ответ кажется странным, прочитайте сводку. Если похоже, что модель упустила какую-то деталь из начала, откройте окно со сводкой. Если этой детали там нет, повторите её в следующем сообщении.
• Не надейтесь — повторяйте. Всё, что оговаривалось давно в сжатом чате, — ограничение, имя файла, решение — стоит повторить ещё раз, когда это снова становится важно.
• Важное проговаривайте явно. Факт, важный не только для одного чата, лучше сформулировать прямо, а не оставлять намёком — тогда у него есть шанс попасть в память проекта, а не остаться лишь в старом сообщении.
• Начинайте новый чат, когда меняется тема. Новый чат в том же проекте начинается с чистого листа — сжимать в нём пока нечего, — и за ним по-прежнему стоит Brain проекта. Длинный чат лучше посвящать одной задаче.
• Свежие детали надёжнее всего. Сжатие всегда затрагивает самую старую часть чата. Та часть, в которой вы сейчас работаете, читается дословно.

Коротко

Розовой меткой Lexika показывает, где чат перестаёт читаться дословно и начинает читаться как сводка. Все ваши сообщения на месте. Модель по-прежнему опирается на всё, что было раньше: выше границы — в виде сводки, ниже — слово в слово.