Группы каналов
Группа каналов — это пул мощностей, обслуживающий модель, со своим ценовым множителем. Привяжите ключ к группе или выбирайте её для каждого запроса и смотрите, какая группа обслужила каждый вызов.
Канал — это источник мощностей для модели. Группа каналов — набор каналов, которые обслуживают одни и те же модели с одним ценовым множителем. Каждый вызов обслуживает ровно одна группа, и ответ сообщает, какая именно.
Выбирать группу не обязательно. По умолчанию ключи работают в режиме Авто, который отправляет каждый запрос в лучшую доступную группу для его модели. Выбирайте группу, когда хотите, чтобы все вызовы с ключа обслуживались и тарифицировались одинаково.
Доступные группы#
| Group id | Название | Обслуживает | Множитель |
|---|---|---|---|
claude-value | Claude · Value | Модели Claude | ×1.00 |
gpt-value | GPT · Value | Модели GPT | ×1.00 |
gemini-value | Gemini · Value | Модели Gemini | ×1.00 |
creative-hosted | Creative · Hosted | Размещённые модели на выделенных GPU | ×1.00 |
claude-api | Claude · API | Модели Claude — только по явному выбору | ×1.08 |
Три группы Value объединяют мощности нескольких каналов ради пропускной способности и держат каждый разговор на одном канале, чтобы его кеш промптов оставался тёплым. Поле groups в GET /v1/models перечисляет группы, обслуживающие каждую модель, а маркетплейс показывает все группы с текущим множителем. creative-hosted запускает размещённые модели на выделенных GPU: по одному каналу на модель, а первый запрос после простоя ждёт, пока модель проснётся.
claude-api — группа Claude с собственным каналом. Она работает только по явному выбору: ключи в режиме «Авто» никогда её не используют, поэтому она обслуживает только привязанные к ней ключи и запросы, которые указывают её в x-lovely-group. Отказоустойчивость работает внутри неё, как и в любой выбранной группе.
Привязка ключа к группе#
При создании ключа в разделе API-ключи выберите Группа каналов. Каждый запрос с этим ключом обслуживает эта группа, что бы ни было указано в запросе. Группа закрепляется за ключом на весь срок его жизни: чтобы её сменить, создайте новый ключ.
Ключи, созданные в режиме Авто, могут выбирать группу для каждого запроса.
Выбор группы для запроса#
Отправьте заголовок x-lovely-group с id группы. Он работает на любом LLM-эндпоинте и в любом формате API.
curl https://lovelyrouter.com/v1/chat/completions \
-H "Authorization: Bearer $LOVELY_API_KEY" \
-H "x-lovely-group: gpt-value" \
-H "content-type: application/json" \
-d '{"model": "gpt-6.1-sol", "messages": [{"role": "user", "content": "Hi"}]}'SDK Anthropic принимают ту же опцию default_headers / defaultHeaders.
| Ситуация | Результат |
|---|---|
| Ключ привязан к группе | Заголовок игнорируется; действует группа ключа. |
| Неизвестный id группы | 400 с Unknown group '<id>'. |
| Группа не обслуживает модель в вашем формате API | 404 с Model '<id>' is not served in <format> format in group '<group>'. |
Какая группа обслужила вызов#
Каждый успешный ответ содержит два заголовка:
| Заголовок | Пример |
|---|---|
x-lovely-group | claude-value |
x-lovely-channel | Pooled%20capacity (метка канала группы в URL-кодировке) |
Логи показывают группу для каждого вызова, и по ней можно фильтровать.
Отказоустойчивость внутри группы#
Когда канал даёт сбой или переполнен, шлюз повторяет запрос на другом канале. Если ваш ключ привязан к группе или вы отправили x-lovely-group, каждая повторная попытка остаётся внутри этой группы, поэтому цена и группа никогда не меняются без вашего ведома. В режиме «Авто» без заголовка повторная попытка может использовать любую группу, обслуживающую модель; заголовок x-lovely-group всегда сообщает, какая из них ответила.
Когда выполняются повторные попытки, описано в разделе Лимиты запросов и отказоустойчивость.
Цены по группам#
Вызов тарифицируется по прайсовой цене модели, умноженной на множитель группы, которая его обслужила. Ключи в режиме «Авто» платят прайсовую цену (у всех используемых ими групп множитель ×1.00); у claude-api — ×1.08. Полный расчёт приведён в разделе Модели и цены.