Как «Эко», «Баланс» и «Премиум» выбирают модель за вас
Что три варианта делают с каждым сообщением, из каких моделей они могут выбирать, почему чат может переключиться с «Баланса» на конкретную модель и какая небольшая доплата берётся за каждое сообщение.
Скорее всего, у вас уже выбран «Баланс»
Нажмите на название модели вверху чата, чтобы открыть меню выбора модели. В разделе All первую строку занимает одна широкая карточка, разделённая на Эко, Баланс и Премиум, с подписями Быстрые вопросы, Повседневные задачи и Сложные задачи. На телефоне эти три варианта стоят друг под другом в одном блоке. Ни один из них не является моделью. Каждый поручает Lexika выбрать модель за вас.
Lexika запоминает ваш выбор на этом устройстве. Если вы не выбрали ничего другого, каждый новый чат начинается с варианта «Баланс», и вверху чата он показан с подписью Lexika под названием.
Если карточки нет, выберите All вверху левой колонки меню выбора модели (на телефоне у этого пункта виден только значок сетки) и очистите поле поиска. Карточка появляется только там.
Как делается выбор
Для каждого сообщения, отправленного через вариант умного выбора, модель выбирается заново, поэтому два ответа подряд могут написать разные модели.
Lexika выбирает только из вашего набора, то есть из моделей, которые проходят все проверки:
- модель не входит в раздел Предыдущие модели в меню выбора модели
- модель есть в списке Разрешённые модели рабочего пространства, если владелец задал его в окне Настройки рабочего пространства
- модель принимает файлы этого сообщения и вмещает само сообщение вместе с файлами
- модель входит в ваш тариф, то есть на её карточке нет метки Не входит в тариф
- её Цена укладывается в ваш баланс, то есть на её карточке нет метки Нужно звёзд: …
- на её карточке нет метки Недоступна
В рабочем пространстве с оплатой За счёт владельца набор определяют тариф и баланс владельца. При низком балансе набор сужается, и тогда даже «Премиум» может дотянуться только до моделей с низкой ценой. Чтобы примерно увидеть, что входит в ваш набор, нажмите кнопку фильтра рядом с поиском в меню выбора модели и включите Показать доступные модели.
Затем Lexika читает ваше сообщение и недавнюю часть чата, а также ваши Инструкции для чата и, если они есть, сводку и прикреплённый к чату Brain. Всё это она сопоставляет с тем, в чём сильна каждая модель, и с её ценой. «Эко» тяготеет к самой низкой цене, при которой задача будет решена. «Баланс» взвешивает качество и цену. «Премиум» выбирает самую сильную модель, даже если она дороже или отвечает медленнее.
Чтобы повлиять на выбор, прямо напишите, что нужно для задачи. Просьбу в сообщении использовать определённую модель Lexika при выборе намеренно не учитывает, поэтому такую модель выберите сами.
Модель, которая создаёт изображения, Lexika старается выбирать, только когда вы просите создать или отредактировать изображение. Описание изображения или составление промпта для него остаются за текстовой моделью.
Почему чат переходит на конкретную модель
В заголовке каждого ответа всегда указана модель, которая его написала, а не вариант умного выбора.
Вернувшись в чат, где был выбран «Баланс», вы можете увидеть вверху вместо него название этой модели. Так работает настройка Переключать модель вместе с чатом. Она включена по умолчанию и находится в разделе Настройки > Параметры под заголовком Поведение чатов. Когда вы открываете чат или перезагружаете страницу, она выбирает модель, написавшую последний ответ, поэтому следующие сообщения уходят прямо этой модели, без нового выбора.
Чтобы вернуть чат к варианту умного выбора, выберите этот вариант снова. Переключение повторяется при каждом новом открытии чата, пока вы не отключите настройку, причём отключение действует только на этом устройстве. Новые чаты по-прежнему начинаются с вашего собственного выбора. О том, что сохраняется при смене модели посреди беседы, рассказывает отдельная статья базы знаний.
Сколько стоит сообщение через вариант умного выбора
За сообщение, отправленное через вариант умного выбора, списываются две суммы:
- Ответ. Lexika берёт за него плату как за ответ выбранной модели, по её расценкам.
- Плата за выбор. Lexika списывает небольшую сумму каждый раз, когда вариант выбирает модель, в том числе при повторной отправке или при правке, отправленной через вариант. Lexika не берёт её, если ни одна модель не прошла проверки или результат выбора так и не пришёл.
Плату за выбор Lexika списывает до начала ответа, поэтому она не возвращается, даже если отправка потом не удалась.
Обе суммы видны в разделе Настройки > Использование. Находясь в чате, нажмите на кольцо звёзд рядом с шестерёнкой настроек внизу боковой панели и выберите Подробнее о расходе. В строке ответа стоит название модели из каталога, и по написанию оно может отличаться от названия в ответе. У платы за выбор своя строка, AUTO_MODEL_ROUTING. Переключите таблицу из режима По отдельности в режим Суммарно, чтобы сложить эти строки за выбранный период. Если вы его не меняли, это Последние 7 дней.
При оплате «За счёт владельца» обе строки появляются в разделе «Использование» у владельца, а не у вас. Остальное объясняют статьи базы знаний о режимах «За счёт владельца» и «За счёт участников» и о стоимости сообщения.
Что работает иначе при умном выборе
- Глубины рассуждений нет. Настройка Глубина рассуждений исчезает из поля ввода, а выбранная модель работает на своём уровне по умолчанию.
- Файлы. Прикреплять можно только PDF и изображения, не больше 3 файлов размером до 20 МБ каждый.
- Предупреждений до отправки нет. Для вариантов умного выбора поле ввода никогда не предупреждает о тарифе или звёздах, поэтому такие проблемы обнаруживаются только после отправки.
- Повторная генерация и правка. В списке Сгенерировать заново вариантов умного выбора нет. Повторить с той же моделью снова обращается к модели, указанной в ответе, если она вам ещё доступна. При правке вопроса вверху чата выбирается модель, которая на него ответила, поэтому, если нужен новый выбор, выберите там нужный вариант до отправки правки. Остальное объясняет статья базы знаний «Изменить, сгенерировать заново или ответвить».
Если отправка не удалась
Lexika помечает ваше сообщение надписью Не удалось отправить сообщение и указывает под ним причину. Кнопка Повторить выглядит как красная круговая стрелка рядом с сообщением.
- Эта модель временно недоступна. Попробуйте другую модель. Lexika не смогла сделать выбор, или у всех моделей, прошедших остальные проверки, стоит метка «Недоступна». Автоматического перехода на модель по умолчанию нет. Повторите отправку или выберите модель.
- Модель не найдена. Проверьте её ID. Ни одна модель не прошла проверки, например, потому что ваш баланс (при оплате «За счёт владельца» баланс владельца) ниже цены любой модели или в списке «Разрешённые модели» не осталось ни одной. Возможно также, что Lexika не нашла подходящей модели. Выберите модель сами, и поле ввода покажет, что мешает отправке. В чужом рабочем пространстве с оплатой «За счёт владельца» оно сообщит, что тариф рабочего пространства не включает эту модель, даже если владельцу просто не хватает звёзд. Если дело в балансе владельца, в меню выбора модели на её карточке стоит метка «Нужно звёзд: …».
- У вас недостаточно звёзд. Lexika резервирует звёзды на чтение беседы и цену модели, и в длинном чате эта сумма может превысить ваш баланс. Плата за выбор к этому моменту уже списана. Пополните баланс звёзд или начните новый чат.
- NO_ATTACHMENT_COMPATIBLE_MODEL_FOR_AUTO. Ни одна из моделей, из которых Lexika могла выбирать, не принимает эти файлы. Уберите их или выберите модель, которая их принимает.
- NO_IMAGE_COMPATIBLE_MODEL_FOR_AUTO. Вы попросили изображение, но ни одна модель из вашего набора не создаёт изображения. Выберите такую модель сами.
- MODEL_CONTEXT_WINDOW_EXCEEDED. Ваше сообщение вместе с файлами слишком велико для любой из моделей, из которых Lexika могла выбирать. Сократите сообщение или прикрепите меньше файлов.
Когда выбирать модель самостоятельно
Выбирайте модель сами, когда над длинной задачей должна работать одна и та же модель или когда вам нужны Глубина рассуждений, другие типы файлов или предупреждение до отправки. Делайте это и тогда, когда баланс невелик и вы хотите выбрать сами, а не получить ту модель, на которую ещё хватает звёзд.
