突破单个账户的 Claude API 速率限制

1. 请求分散到容量池中

   每个渠道组（claude-value、gpt-value、gemini-value）都汇聚了多个渠道的容量，新对话会分散到这些渠道上。错误更多、或响应明显慢于平时的渠道，在恢复之前分到的份额会更少；持续失败的渠道会被暂时移出轮换。

2. 突发流量排队等待，而不是直接失败

   某个渠道已满时，网关会尝试为该模型提供服务的其他渠道。全部已满时，请求会进入预计最先空出来的那个渠道的队列，最多等待 10 秒。被接纳的请求会带有 x-lovely-queued-ms，标明它等待的时长。

3. 失败由网关替你重试

   如果请求所在的渠道超时、返回 429 或 5xx，或在流的第一个 token 之前失败，请求会在另一个渠道上重试，最多尝试三次。流会一直保留到第一个 token 出现（最多 15 秒），因此早期失败永远不会以中断的流的形式到达你这里。

被 429 拒绝的请求不收费。错误响应体遵循你所用的 API 格式。

429 或 502 意味着问题已经持续了好几次尝试。请使用指数退避加随机抖动再重试几次，并遵循 retry-after。Anthropic 和 OpenAI 的 SDK 默认重试两次；批处理任务请调高这个次数：

# --retry 会处理 429 和 5xx，并遵循 retry-after
curl --retry 5 --retry-max-time 120 https://lovelyrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $LOVELY_API_KEY" \
  -H "content-type: application/json" \
  -d '{"model": "gpt-6.1-sol", "messages": [{"role": "user", "content": "Hi"}]}'

对于流，只在错误出现在任何内容之前时才重试：一旦 token 开始输出，失败就会以流中的错误事件呈现。

每个密钥都可以设置 每分钟请求数 限制（滚动 60 秒窗口）和 最大并发请求数 限制（打开中的流在结束前都计入）。两者默认关闭。为不同工作负载使用各自带限制的独立密钥，可以避免批处理任务挤占生产流量。密钥还可以设置消费上限、模型允许列表和过期日期；参阅 API 密钥。

每个对话都固定在持有其提示缓存的渠道上，而且每个容量池都会为已固定的轮次保留一部分容量，因此即使在高峰期，进行中的会话也能继续享受缓存价格。当固定的渠道已满时，这一轮会短暂等待它（短提示词约一秒，长提示词最多十秒），之后才会换到别的渠道并写入新的缓存。参阅提示缓存。

密钥默认使用 自动，它会把每个请求发往该模型当前最优的可用渠道组；重试可能使用任何提供该模型的渠道组。把密钥绑定到一个渠道组，或发送 x-lovely-group 请求头，每次重试都会留在该组内，价格就不会在你不知情时发生变化。响应会注明为其提供服务的渠道组和渠道。参阅渠道组。

状态页按小时显示每个渠道组最近 24 小时的可用性，每分钟刷新一次。模型列表显示每个模型及其实时可用性。

每次调用按 token 计费（输入、输出、缓存读取和缓存写入），价格为模型标价乘以提供服务的渠道组的倍率。目前所有在线渠道组的倍率都是 ×1.00，你支付的就是标价。排队中的请求在实际运行之前不收费，被 429 拒绝或以错误告终的请求不产生任何费用。你取消的流按已生成的内容计费。所有费用都从预付费余额中扣除，没有订阅；参阅价格页。