Lovely RouterДокументация
Получить ключ
Песочница

Чат

Общайтесь с любой чат-моделью из панели, настраивайте системный промпт, температуру и лимит вывода и смотрите скорость и стоимость каждого ответа.

Откройте Чат в группе Песочница на боковой панели. Он работает с чат-моделями через Chat Completions API, передаёт каждый ответ потоком и показывает, насколько быстро он пришёл и сколько стоил. Вызовы списываются с баланса и появляются в логах, как любые вызовы из песочницы.

Настройки#

Настройки находятся на панели слева. На телефоне выбор модели остаётся вверху, а остальное открывается кнопкой Параметры.

НастройкаЧто делает
МодельЧат-модель для разговора. По умолчанию — Claude Sonnet 5.5, если она есть в вашем аккаунте. В списке только модели, поддерживающие Chat Completions; модели изображений — в разделе Изображения.
Группа каналовАвто — лучший из доступных оставляет выбор за Lovely Router. Выберите группу, чтобы отправить запрос в неё, — так же, как заголовок x-lovely-group в коде. См. Группы каналов.
Системный промптНеобязательные инструкции, которые отправляются перед диалогом, до 20 000 символов.
ТемператураОт 0 до 2 с шагом 0,1. По умолчанию 0,7.
Макс. число выходных токеновПустое поле означает собственный лимит модели (Модель по умолчанию). Модели с рассуждениями сначала тратят выходные токены на размышления, поэтому маленький лимит может оборвать ответ или оставить его пустым.

Под настройками в поле Цена показано, сколько модель стоит для вас за миллион входных и выходных токенов, с учётом множителя вашей группы каналов.

Модель, работающая на наших собственных GPU, показывает под списком значок Спит, Просыпается или Готова. См. Спит, просыпается, готова.

Написать за меня#

В углу поля Системный промпт есть помощник для текста. В пустом поле он предлагает Написать за меня, а когда текст уже есть — Улучшить. В его меню также есть Короче, Написать новый и Модель для текста — она общая для всех «Написать за меня» в панели. Текст появляется в поле потоком, Отменить возвращает вашу версию, а стоимость вызова показывается рядом. Каждое использование — это вызов чат-модели, который списывается с баланса.

Отправка сообщений#

Введите текст в поле внизу и нажмите Отправить или Enter. Shift+Enter добавляет новую строку. Пока ответ идёт потоком, Отправить превращается в Остановить — эта кнопка обрывает ответ на текущем месте.

До прихода первого токена вы видите Думает… со счётчиком секунд. Рассуждения модели появляются в разделе Ход рассуждений над ответом; он изначально раскрыт, и его можно свернуть.

Каждый запрос отправляет весь диалог целиком, начиная с системного промпта, так что модель видит всю историю. Очистить в шапке начинает новый диалог. Диалог хранится только на странице: если уйти с неё или перезагрузить её, всё начнётся заново.

Скорость и стоимость#

Под каждым ответом показано:

ПоказательЧто означает
TTFTВремя до первого токена.
Общее времяОт отправки до последнего токена.
tok/sВыходные токены в секунду после первого токена.
in → out tokВходные и выходные токены, о которых сообщила модель.
≈ $Примерная сумма списания по токенам и показанной цене.

Точная сумма списания и канал, который обслужил вызов, — в логах. Если запрос завершился ошибкой, вместо этих показателей появляется сообщение об ошибке.

Получить код#

Показать код в шапке выводит команду cURL для POST /v1/chat/completions с текущей моделью, температурой, лимитом вывода, системным промптом и сообщением, которое вы набираете (или Hello). Предыдущие реплики диалога в неё не входят. Замените $LOVELY_API_KEY ключом из раздела API-ключи и выполните её. Скрыть код закрывает её.

Чтобы сделать то же самое из своего кода, с потоковой передачей и данными об использовании, см. OpenAI Chat Completions и Потоковая передача.