Чат
Общайтесь с любой чат-моделью из панели, настраивайте системный промпт, температуру и лимит вывода и смотрите скорость и стоимость каждого ответа.
Откройте Чат в группе Песочница на боковой панели. Он работает с чат-моделями через Chat Completions API, передаёт каждый ответ потоком и показывает, насколько быстро он пришёл и сколько стоил. Вызовы списываются с баланса и появляются в логах, как любые вызовы из песочницы.
Настройки#
Настройки находятся на панели слева. На телефоне выбор модели остаётся вверху, а остальное открывается кнопкой Параметры.
| Настройка | Что делает |
|---|---|
| Модель | Чат-модель для разговора. По умолчанию — Claude Sonnet 5.5, если она есть в вашем аккаунте. В списке только модели, поддерживающие Chat Completions; модели изображений — в разделе Изображения. |
| Группа каналов | Авто — лучший из доступных оставляет выбор за Lovely Router. Выберите группу, чтобы отправить запрос в неё, — так же, как заголовок x-lovely-group в коде. См. Группы каналов. |
| Системный промпт | Необязательные инструкции, которые отправляются перед диалогом, до 20 000 символов. |
| Температура | От 0 до 2 с шагом 0,1. По умолчанию 0,7. |
| Макс. число выходных токенов | Пустое поле означает собственный лимит модели (Модель по умолчанию). Модели с рассуждениями сначала тратят выходные токены на размышления, поэтому маленький лимит может оборвать ответ или оставить его пустым. |
Под настройками в поле Цена показано, сколько модель стоит для вас за миллион входных и выходных токенов, с учётом множителя вашей группы каналов.
Модель, работающая на наших собственных GPU, показывает под списком значок Спит, Просыпается или Готова. См. Спит, просыпается, готова.
Написать за меня#
В углу поля Системный промпт есть помощник для текста. В пустом поле он предлагает Написать за меня, а когда текст уже есть — Улучшить. В его меню также есть Короче, Написать новый и Модель для текста — она общая для всех «Написать за меня» в панели. Текст появляется в поле потоком, Отменить возвращает вашу версию, а стоимость вызова показывается рядом. Каждое использование — это вызов чат-модели, который списывается с баланса.
Отправка сообщений#
Введите текст в поле внизу и нажмите Отправить или Enter. Shift+Enter добавляет новую строку. Пока ответ идёт потоком, Отправить превращается в Остановить — эта кнопка обрывает ответ на текущем месте.
До прихода первого токена вы видите Думает… со счётчиком секунд. Рассуждения модели появляются в разделе Ход рассуждений над ответом; он изначально раскрыт, и его можно свернуть.
Каждый запрос отправляет весь диалог целиком, начиная с системного промпта, так что модель видит всю историю. Очистить в шапке начинает новый диалог. Диалог хранится только на странице: если уйти с неё или перезагрузить её, всё начнётся заново.
Скорость и стоимость#
Под каждым ответом показано:
| Показатель | Что означает |
|---|---|
| TTFT | Время до первого токена. |
| Общее время | От отправки до последнего токена. |
| tok/s | Выходные токены в секунду после первого токена. |
| in → out tok | Входные и выходные токены, о которых сообщила модель. |
| ≈ $ | Примерная сумма списания по токенам и показанной цене. |
Точная сумма списания и канал, который обслужил вызов, — в логах. Если запрос завершился ошибкой, вместо этих показателей появляется сообщение об ошибке.
Получить код#
Показать код в шапке выводит команду cURL для POST /v1/chat/completions с текущей моделью, температурой, лимитом вывода, системным промптом и сообщением, которое вы набираете (или Hello). Предыдущие реплики диалога в неё не входят. Замените $LOVELY_API_KEY ключом из раздела API-ключи и выполните её. Скрыть код закрывает её.
Чтобы сделать то же самое из своего кода, с потоковой передачей и данными об использовании, см. OpenAI Chat Completions и Потоковая передача.