自托管模型
Lovely Router 在自有专用 GPU 上运行的开源权重模型,属于 Creative · Hosted 分组。空闲时会休眠,因此一段时间没人使用后的第一个请求会稍慢一些。
有些开源权重模型没有任何 API 服务商提供,或者只有带内容过滤的版本。Lovely Router 在自己的 GPU 上运行这些模型,并在 creative-hosted 渠道分组中提供。调用方式和其他模型完全相同:同样的密钥、同样的余额、同样的端点。
可用模型#
| 模型 ID | 简介 | 上下文 | 输入 | API |
|---|---|---|---|---|
dongfangshuo-27b-v2 | 东方槊 27B v2:基于 Qwen3.8-27B 微调,专为中文长篇小说与角色扮演打造,去除了基座模型的拒答。仅限成年人(18+)使用。 | 128K tokens | 文本、图片 | OpenAI Chat Completions、Anthropic Messages |
z-image-turbo-nsfw-v2 | Z-Image Turbo NSFW v2:基于 Z-Image Turbo 微调的成人写实图像模型,9 步出图。文生图。仅限成年人(18+)使用。 | – | 文本 | OpenAI Images |
moss-image-sft | MOSS-Image SFT(OpenMOSS):5B 文生图模型,擅长图中文字、版式,支持中英文提示词。50 步。 | – | 文本 | OpenAI Images |
moss-image-nsfw | MOSS-Image NSFW:在 MOSS-Image SFT 上加载成人摄影 LoRA(强度 0.7,30 步;触发词会自动添加)。文生图。仅限成年人(18+)使用。 | – | 文本 | OpenAI Images |
价格见模型广场和 GET /v1/models。
视频模型也运行在我们自己的 GPU 上,各有自己的指南:角色替换、实时视频和音乐视频。语音模型 qwen3-tts 和 zonos2 也是:参阅文本转语音。
空闲后的第一个请求#
自托管模型在 2 分钟无人使用后会休眠。下一个请求会唤醒它,并在唤醒期间等待:通常首个 token 前需要 10–30 秒,偶尔最长几分钟。之后以正常速度回答,只要请求持续到来就保持唤醒。
你无需重试:网关会一直保持你的请求,直到模型就绪。第一次调用时请把客户端超时设为至少 3 分钟。如果模型在约 2 分半内无法唤醒,你会收到可以重试的 502。
每个自托管模型都有一组主 GPU 和一组备用 GPU。若约 35 秒内没有空闲的主 GPU,请求会转到备用组,备用组同样能在几秒内唤醒。失败的请求不会像其他分组那样转到别的服务商。
图片#
z-image-turbo-nsfw-v2 接受与其他图像模型相同的生成请求,按自己的固定单价计费:
size:1024x1024、1536x1024、1024x1536、1536x1536,或长边不超过 1536 像素、边长为 16 的倍数的任意宽x高。auto或不填为1024x1024。更大的尺寸会返回400。- 模型唤醒后,1024×1024 约 5 秒出图,1536×1536 约 15 秒。
quality不起作用。每张图都使用新的随机种子。- 只支持生成:
/v1/images/edits和参考图会返回400。
moss-image-sft 和 moss-image-nsfw 接受相同的生成请求,尺寸长边最大 1024 像素(16 的倍数;auto 为 1024x1024),各自按固定单价计费。它们出图较慢:模型唤醒后,moss-image-sft 每张约 50 秒,moss-image-nsfw 约 30 秒。只支持生成。
使用 n 时,托管模型会在已唤醒的 GPU 上依次生成,耗时按张数累加:模型唤醒后,四张 1024×1024 的 z-image-turbo-nsfw-v2 约 20 秒,两张 moss-image-nsfw 约一分钟。
思考模式#
dongfangshuo-27b-v2 默认直接作答,这也是模型作者对小说创作的推荐。如需让它先推理,可按请求开启思考:
{
"model": "dongfangshuo-27b-v2",
"messages": [{"role": "user", "content": "…"}],
"chat_template_kwargs": {"enable_thinking": true}
}推理内容在 message.reasoning_content(流式为 delta.reasoning_content)中返回,与正文分开。
采样参数#
默认值:temperature 0.8、top_p 0.9、top_k 50、repeat_penalty 1.15(模型作者为抑制长文复读而调校)。发送任一参数即可覆盖。除 OpenAI 参数外,Chat Completions 还接受 top_k、min_p 和 repeat_penalty。
写长篇小说时,建议每次回复约 2000–4000 字,再逐章续写;结构化的提示词(场景、人物及其状态、前情提要、情节步骤、必须包含的细节)能让模型发挥出最强的控制力。
内容#
这些模型会按提示作答,没有基座模型的拒答。你需要对生成的内容负责:仅限面向成年人的虚构作品。与所有模型一样,适用可接受使用政策;任何涉及未成年人的色情内容一律禁止。