Что означает метка «Контекст сжат»
Почему длинные чаты сжимаются, что означает розовая граница и как прочитать или отредактировать сводку, чтобы ответы не теряли нить разговора.
Что произошло
Вы прокручивали длинный чат назад и наткнулись на розовую пунктирную линию с небольшой плашкой, на которой написано Контекст сжат. Ничего не сломалось, ничего не пропало, и от вас ничего не требуется. Вот что это значит.
Почему чаты сжимаются
Модель отвечает, читая весь чат до текущего момента, а за раз она может прочитать лишь ограниченный объём текста. Этот предел и есть её контекстное окно.
Lexika не дожидается этого предела. После каждого ответа она подсчитывает объём текста чата, который модель прочитает в следующий раз. Как только он превышает фиксированный порог (у моделей с небольшим контекстным окном этот порог ниже), Lexika сводит самую старую часть чата в сводку, и модель получает эту сводку вместо исходных сообщений. Чат продолжается, а модель по-прежнему отвечает с пониманием всего, что было раньше, только самую старую часть она видит в сжатом виде.
Lexika делает это сама и только в обычных чатах. Беседы Совет и Агентное исследование она не сжимает никогда, а проверку выполняет только после ответа ИИ, поэтому одни лишь комментарии сжатие не запускают. Нет ни кнопки, чтобы запустить сжатие, ни настройки, чтобы изменить, когда оно происходит, ни переключателя, чтобы его отключить. Изменить можно саму сводку: как это сделать, объясняет раздел о редактировании ниже.
Что сохраняется и что читает модель
Панель сводки, которую открывает плашка на границе, одним предложением под заголовком объясняет, как это устроено. Это предложение называет точку отсечения, например 14 марта в 09:20, говорит, что сообщения до этого момента сведены в эту сводку, и добавляет, что модель читает сводку вместо исходных сообщений, которые по-прежнему видны в переписке. Дата указана по вашему местному времени.
Здесь стоит различать две разные вещи.
| Вы видите | Модель читает | |
|---|---|---|
| Выше границы (старые сообщения) | Все исходные сообщения, без сокращений | Сводку |
| Ниже границы (новые сообщения) | Все исходные сообщения, без сокращений | Все вопросы и ответы, дословно |
Ваша переписка остаётся нетронутой. Сколько бы вы ни прокручивали вверх, каждый ваш вопрос и каждый полученный ответ на месте, слово в слово. Сжатие меняет то, что Lexika передаёт модели, а не то, что чат показывает вам.
Файлы, прикреплённые выше границы, перестают доходить до модели. Lexika составила сводку по тексту этих сообщений и названиям файлов, а не по содержимому самих файлов, поэтому, если файл ещё нужен, прикрепите его снова.
Точка отсечения задаётся моментом времени: это время последнего сообщения, которое охватывает сводка. Все вопросы и ответы, отправленные в этот момент или раньше, находятся выше границы. Все вопросы и ответы после него доходят до модели в том виде, в каком были написаны.
По мере роста чата Lexika может сжимать его несколько раз, и при каждом сжатии граница сдвигается вперёд. Каждую новую сводку она пишет на основе предыдущей и следующего отрезка сообщений, поэтому каждая сводка охватывает чат от самого начала до новой точки отсечения.
Как это видно в интерфейсе
Все эти элементы выделены одним и тем же розовым цветом. Плашку на границе, плавающую кнопку, статус сжатия и панель сводки также отмечает один и тот же значок истории: часы со стрелкой назад.
- Строка границы. Розовая пунктирная линия тянется от обоих краёв к небольшой плашке по центру с надписью «Контекст сжат». Эта строка расположена сразу после последнего сообщения, которое охватывает сводка. Нажмите на плашку, чтобы прочитать сводку.
- Пунктир у края. У каждого сообщения, которое охватывает сводка, вдоль правого края переписки идёт розовый пунктир высотой с само сообщение. На любом языке переписка выстроена слева направо, поэтому и в арабском интерфейсе линия остаётся справа. Вместе эти отрезки складываются в одну непрерывную линию, которая показывает, как далеко назад доходит сводка. Если навести на неё курсор или нажать и удерживать её на сенсорном экране, появится небольшая подсказка «Контекст сжат». Сама линия ничего не открывает. На телефоне она оказывается чуть за пределами видимой части переписки, но её по-прежнему видно в выдвижной панели указателя сообщений.
- Плавающий индикатор. Когда всё, что вы видите на экране, находится выше границы, внизу переписки рядом со стрелкой перехода к последним сообщениям появляется небольшая круглая кнопка с розовой обводкой и значком истории. Если навести на неё курсор, появится подсказка Вы читаете сжатый контекст. Если нажать на кнопку, откроется сводка. Когда кнопка впервые появляется на устройстве, на неё указывает обучающая подсказка с заголовком Вы читаете сжатый контекст, а кнопка Подробнее в этой подсказке открывает эту статью.
- Статус сжатия. Пока Lexika пишет новую сводку, внизу переписки появляется розовая плашка с надписью Сжатие контекста…, и её видят все, у кого открыт этот чат. Когда Lexika сохраняет сводку, плашка исчезает, а граница сдвигается к новой точке отсечения. Если попытка не удалась, плашка тоже исчезает, и Lexika пробует снова после одного из следующих ответов.
- Розовый цвет в указателе сообщений. В панели Указатель сообщений рядом с перепиской вопросы из сжатой части становятся розовыми, так что с первого взгляда видно, как далеко назад доходит сводка. Вид Список, а также выдвижная панель на телефоне показывают ещё и розовый пунктир рядом с каждым вопросом, который охватывает сводка.
Полезно знать
Часто вы не увидите никакой метки сжатия, даже если чат уже сжимался. Чат открывается на последних сообщениях, и если сводка не охватывает ни одного из них, в переписке отмечать нечего. Строка границы, пунктир у края и плавающий индикатор появляются только тогда, когда вы прокрутите назад до сообщения, которое охватывает сводка. Указатель сообщений может окраситься в розовый раньше, как только среди уже загруженных сообщений окажется вопрос, который охватывает сводка.
Как прочитать сводку
Сводка открывается с плашки на границе или с плавающего индикатора, но не с пунктира у края.
Она появляется в выезжающей сбоку панели во всю высоту экрана. Панель называется Сжатый контекст. Под заголовком идёт описанное выше предложение с подставленной датой отсечения, затем сама сводка в отдельной прокручиваемой области. Внизу по порядку расположены кнопки Изменить сводку (о ней рассказывает следующий раздел), Что это значит? (открывает эту статью) и Закрыть.
Этот текст, показанный с оформлением, и есть всё, что модель читает вместо ваших старых сообщений. Lexika передаёт его модели как справочный материал, а не как инструкции. Сводка, которую пишет Lexika, представляет собой список коротких пунктов, сгруппированных по типам (например, факты, решения и открытые вопросы), и укладывается примерно в 800 слов, поэтому мелкие детали могут выпасть.
Как отредактировать сводку
Если в сводке что-то неверно или в ней не хватает нужной вам детали, её можно переписать. Это может сделать любой, кто состоит в рабочем пространстве, которому принадлежит чат, и изменение действует для всех в этом чате.
Кнопка «Изменить сводку» заменяет отформатированный вид текстовым полем с исходным Markdown сводки и счётчиком, который показывает, сколько слов в тексте из допустимых 800. Кнопка Сохранить изменения недоступна, пока текст пуст, не изменён или длиннее 800 слов. Кнопка Отмена сбрасывает ваши правки. После успешного сохранения появляется уведомление Сжатый контекст обновлён.
- Модель читает вашу версию начиная со следующего сообщения. Ответ, который уже формируется, использует старую.
- Точка отсечения не сдвигается. Выше границы остаются те же сообщения, а исходные сообщения в переписке не меняются.
- Очень плотный текст всё равно могут отклонить. Lexika также ограничивает размер сводки, и этот предел счётчик слов показать не может. Код или текст на языке, где слова пишутся без пробелов, может упереться в этот предел раньше 800 слов, и тогда сохранение не удастся.
- Если сводка изменилась, пока вы её правили, откройте панель заново. Если появился статус Сжатие контекста… или коллега правит ту же сводку, пока вы печатаете, скопируйте свой текст, закройте панель и откройте её снова, чтобы отредактировать более новую версию. Если сохранить поверх неё, ваш текст заменит то, что добавила более новая сводка.
- Ваши правки переносятся в следующую сводку. Когда Lexika снова сжимает чат, она пишет новую сводку на основе вашей версии и более новых сообщений и сохраняет написанное вами, если только более новые сообщения его не заменят. Пункты она снова раскладывает по обычным группам, поэтому ваше оформление не сохраняется, а менее важные пункты могут выпасть.
- Если изменить старый вопрос или сгенерировать ответ на него заново, сводка пропадёт. Если вы выберете Изменить сообщение у вопроса, отправленного в момент отсечения или раньше, или Сгенерировать заново у ответа на него, Lexika отбросит всю сводку вместе с вашими правками, потому что она описывает ответы, которых больше нет. Граница исчезает, а следующую сводку Lexika пишет с нуля. Чат, который вы создали через Ответвить в новый чат, тоже начинается без сводки.
Как получать хорошие ответы в длинном чате
- Если ответ кажется странным, прочитайте сводку. Если похоже, что модель упустила какую-то деталь из начала, откройте сводку. Если этой детали там нет, повторите её в следующем сообщении или добавьте через «Изменить сводку», чтобы её учитывали и последующие ответы.
- Лучше повторить, чем надеяться. Всё, что вы оговорили много сообщений назад в сжатом чате, например ограничение, имя файла или решение, стоит один раз повторить, когда это снова становится важно.
- Указания давайте в сообщениях. Lexika передаёт сводку модели как справочный материал, а не как инструкции, поэтому правило, которому модель должна следовать, стоит писать в сообщении.
- Сохраняйте в Brain то, что важно надолго. Если к чату прикреплён Brain проекта, а вы Владелец рабочего пространства или Администратор, попросите ассистента запомнить факт, важный не только для этого чата, чтобы он не остался лишь в старом сообщении. Участник может читать Brain, но не может сохранять в него.
- Начинайте новый чат, когда меняется тема. В новом чате пока нечего сжимать, а ту же память он сможет читать, как только вы прикрепите к нему Brain проекта. Длинный чат посвящайте одной задаче.
- Свежие детали надёжнее всего. Сжатие всегда затрагивает самую старую часть чата и не трогает как минимум четыре самых новых сообщения. Ту часть, в которой вы сейчас работаете, модель читает дословно.
Коротко
Розовая метка показывает, где модель переходит от чтения сводки к чтению вашего чата слово в слово. Все ваши сообщения на месте. Модель по-прежнему опирается на всё, что было раньше, только выше границы она читает сводку, а ниже читает сами сообщения слово в слово. Если сводка в чём-то ошибается, вы можете её отредактировать.