SillyTavern API 服务商配置
四个字段把 SillyTavern 接到兼容 OpenAI 的接口,再选一个适合长对话的无审查模型。
目标关键词: SillyTavern API provider
SillyTavern 是角色聊天和角色扮演最常用的前端。GeniusRelay 通过兼容 OpenAI 的接口给它当 API 服务商,现有角色可以直接跑在 599 个模型上,其中 43 个是无审查版,中间不用再挂代理。
本文是短版,带截图的维护版在 SillyTavern 接入。
开始之前
- 控制台生成的 GeniusRelay Key,记得给 Key 设消费上限,角色会话很吃 token。
- SillyTavern 已安装并在本地打开。
- 一张角色卡。测试期先用短卡,长卡每轮都在加输入 token。
四个设置
在 SillyTavern 打开 API Connections,填:
API 类型:Chat Completions
自定义端点:https://api.geniusrelaygpt.com/v1
API Key:YOUR_GENIUSRELAY_KEY
模型:deepseek-v4.1-flash-uncensored点 Connect。状态变绿说明端点通了;模型下拉能列出模型说明 Key 有效。
选哪个模型
角色扮演同时怕拒答和怕失忆,所以模型既要有容忍度,也要有长窗口。
| 模型 | 输入 / 1M | 上下文 | 理由 |
|---|---|---|---|
| DeepSeek V4.1 Flash 无审查 | $0.429 | 1M | 最强的无审查选项 |
| DeepSeek V4.1 Flash Heretic | $0.257 | 512K | 更便宜,拒答仍少 |
| GLM 5.3 Flash 无审查 | $0.260 | 1M | 双语,长上下文 |
| MiMo V2.6 Flash 无审查 | $0.650 | 1M | 轻快 |
| Gemma 4 26B Chimerax Heretic | $0.156 | 262K | 最便宜的入口 |
角色扮演模型页列了全部 96 个带角色扮演标签的模型和实时价。预算比最后几个点的质量重要时,按输入价排序。
省钱的上下文设置
每一轮都会重发全部历史。30K token 的聊天在 GLM 5.3 Flash 无审查上光输入每轮约 $0.008,500 轮就是 $4,还没算输出。长会话前先调:
- 上下文长度: 按角色卡需要设,不要设成模型上限。
- 旧轮次摘要: 让 SillyTavern 压缩历史,而不是原样重发。
- 精简世界书: 每条常驻条目都是永久输入 token。
- 设 `max_tokens`: 聊天回复 300–600 通常够,2,000 容易啰嗦还更贵。
想先估一场会话,用价格页。
流式与格式
支持流式,长回复体感即时。除非反代缓冲事件,否则保持开启。
角色扮演里用纯文本输出更稳,别硬塞 JSON。模型开始在对话里输出 Markdown 标题时,加一句 system 指令,不要急着换模型。
排查
| 现象 | 多半是 | 处理 |
|---|---|---|
| 401 | Key 带空格或已吊销 | 控制台重新生成 |
| 连接 404 | 端点少了 /v1 | 用 https://api.geniusrelaygpt.com/v1 |
| 429 | 触发限流或消费上限 | 提高上限或放慢重试 |
| 模型列表空 | 连接没通就查了 Key | 重连后刷新 |
| 回复被截断 | max_tokens 太低或上下文溢出 | 调高上限或裁历史 |
| 反复拒答 | 选了强对齐模型 | 换到无审查列表里的模型 |
完整错误形态见错误码。
角色卡与记忆
长卡提高质量也提高成本,两个折中:
- 把稳定设定压成摘要块放在顶部,而不是一大段示例对话。
- 开场白写短。 第一条消息每轮都会重发。
设定超过 100K token,就用 1M 上下文模型并接受输入账单,或者把设定拆成按关键词触发的世界书条目。
违反条款吗?
不违反。SillyTavern 只是客户端,GeniusRelay 看到的都是正常 chat completion 请求,计费和其他客户端一样。
常见问题
支持流式吗?
支持,标准 SSE 在 SillyTavern 里可用。
能用很长的角色卡��?
能,直到模型的上下文上限。512K–2M 的模型扛得住详细设定,代价是每轮输入更贵。
角色扮演用哪个模型?
无审查或 Heretic 变体。DeepSeek V4.1 Flash 无审查最强,Chimerax Heretic 最便宜。
能同时跑多个角色吗?
能,但每个会话单独计费。想账目清楚就一个会话一把 Key。
聊到 50 轮之后为什么变差?
模型在读过长的历史,最早的轮次占比过大。压缩历史或开新分支,换模型通常没用。
手机上能用吗?
能,SillyTavern 是网页 UI,端不关心设备。注意别让 Key 出现在截图里。
下一步
按 SillyTavern 教程一步步接,再从角色扮演列表挑模型。如果还写小说,无审查 API 指南里有一次性生成的用法。
Key 与会话卫生
- 每台设备或每个长会话一把 Key。 花费报告看得清,泄露一把也不用全废。
- 设到期日。 角色扮演的 Key 不需要活一年。
- 按 Key 封顶。 忘关的标签页一直生成,是常见的账单尖峰。
- 分享日志或截图后轮换。 Key 出现的地方比想象中多。
一个扛得住的短提示模板
长 system 提示是永久输入成本。指令只留角色卡自己带不了的部分:
保持人设。回复控制在 2–4 段。
不要替用户叙述动作。结尾留一个开放的接点。设定放进角色卡或世界书,不要放 system。system 块每轮重发,多一句话就是每个会话每一轮都多付一次。
回复开始重复时
重复通常是温度太低,或者历史里同一种说法占太多。先把温度抬一点,再开新分支。换更大的模型很少解决重复,而且一定更贵。