チャネルグループ
チャネルグループは、モデルを提供する容量のプールで、それぞれに価格倍率があります。キーをグループに紐付けるか、リクエストごとにグループを選び、各呼び出しをどのグループが処理したかを確認できます。
チャネルは、モデルを提供する容量の供給元です。チャネルグループは、1 つの価格倍率のもとで同じモデルを提供するチャネルの集まりです。各呼び出しはちょうど 1 つのグループによって処理され、どのグループだったかはレスポンスで分かります。
グループを選ぶ必要はありません。キーの既定は 自動 で、各リクエストをそのモデルにとって最適な利用可能グループに送ります。あるキーからのすべての呼び出しを同じ方法で処理・課金したい場合に、グループを選んでください。
利用可能なグループ#
| グループ ID | 名前 | 提供するモデル | 倍率 |
|---|---|---|---|
claude-value | Claude · Value | Claude のモデル | ×1.00 |
gpt-value | GPT · Value | GPT のモデル | ×1.00 |
gemini-value | Gemini · Value | Gemini のモデル | ×1.00 |
creative-hosted | Creative · Hosted | 専用 GPU 上のホスト型モデル | ×1.00 |
claude-api | Claude · API | Claude のモデル——オプトイン | ×1.08 |
3 つの Value グループはいずれも、スループットを確保するために複数のチャネルの容量をプールし、プロンプトキャッシュを有効なまま保つために各会話を 1 つのチャネルに固定します。GET /v1/models の groups フィールドには各モデルを提供するグループが列挙され、マーケットプレイスではすべてのグループと現在の倍率を確認できます。creative-hosted は専用 GPU 上でホスト型モデルを動かします。モデルごとにチャネルは 1 つで、アイドル後の最初のリクエストはモデルの起動を待ちます。
claude-api は独自のチャネルを持つ Claude のグループです。オプトインのグループで、Auto のキーは使いません。このグループに紐付けたキーと、x-lovely-group で指定したリクエストだけが使います。ほかの指定グループと同じく、フェイルオーバーはグループ内にとどまります。
キーをグループに紐付ける#
API キーでキーを作成するときに、チャネルグループ を選びます。そのキーで送ったリクエストは、リクエストの内容にかかわらず、すべてそのグループで処理されます。グループはキーが有効な間ずっと固定です。変更するには新しいキーを作成してください。
自動 で作成したキーは、リクエストごとにグループを選べます。
リクエストごとにグループを選ぶ#
x-lovely-group ヘッダーにグループ ID を指定して送ります。すべての LLM エンドポイントで、どの API 形式でも使えます。
curl https://lovelyrouter.com/v1/chat/completions \
-H "Authorization: Bearer $LOVELY_API_KEY" \
-H "x-lovely-group: gpt-value" \
-H "content-type: application/json" \
-d '{"model": "gpt-6.1-sol", "messages": [{"role": "user", "content": "Hi"}]}'Anthropic SDK でも、同じ default_headers / defaultHeaders オプションを使えます。
| 状況 | 結果 |
|---|---|
| キーがグループに紐付けられている | ヘッダーは無視され、キーのグループが優先されます。 |
| 不明なグループ ID | 400 と Unknown group '<id>'。 |
| グループがそのモデルをお使いの API 形式で提供していない | 404 と Model '<id>' is not served in <format> format in group '<group>'. |
呼び出しを処理したグループを確認する#
成功したレスポンスには、必ず次の 2 つのヘッダーが付きます。
| ヘッダー | 例 |
|---|---|
x-lovely-group | claude-value |
x-lovely-channel | Pooled%20capacity（グループのチャネルラベルを URL エンコードしたもの） |
ログにはすべての呼び出しのグループが表示され、グループで絞り込むこともできます。
フェイルオーバーはグループ内で行われる#
チャネルが失敗した場合や満杯の場合、ゲートウェイはリクエストを別のチャネルで再試行します。キーがグループに紐付けられている場合や x-lovely-group を送った場合、再試行はすべてそのグループ内で行われます。そのため、知らないうちに価格やグループが変わることはありません。自動でヘッダーも送らない場合、再試行ではそのモデルを提供するどのグループも使われる可能性があります。x-lovely-group ヘッダーには、常に実際に応答したグループが示されます。
再試行が行われる条件については、レート制限とフェイルオーバーを参照してください。
グループごとの料金#
呼び出しは、モデルの定価に、処理したグループの倍率を掛けた金額で課金されます。Auto のキーは定価でのお支払いです（使うグループはすべて ×1.00）。claude-api は ×1.08 です。計算の詳細はモデルと料金を参照してください。