博客

SillyTavern API 服务商配置

四个字段把 SillyTavern 接到兼容 OpenAI 的接口,再选一个适合长对话的无审查模型。

目标关键词: SillyTavern API provider

SillyTavern 是角色聊天和角色扮演最常用的前端。GeniusRelay 通过兼容 OpenAI 的接口给它当 API 服务商,现有角色可以直接跑在 599 个模型上,其中 43 个是无审查版,中间不用再挂代理。

本文是短版,带截图的维护版在 SillyTavern 接入。

开始之前

  • 控制台生成的 GeniusRelay Key,记得给 Key 设消费上限,角色会话很吃 token。
  • SillyTavern 已安装并在本地打开。
  • 一张角色卡。测试期先用短卡,长卡每轮都在加输入 token。

四个设置

在 SillyTavern 打开 API Connections,填:

API 类型:Chat Completions
自定义端点:https://api.geniusrelaygpt.com/v1
API Key:YOUR_GENIUSRELAY_KEY
模型:deepseek-v4.1-flash-uncensored

点 Connect。状态变绿说明端点通了;模型下拉能列出模型说明 Key 有效。

选哪个模型

角色扮演同时怕拒答和怕失忆,所以模型既要有容忍度,也要有长窗口。

模型输入 / 1M上下文理由
DeepSeek V4.1 Flash 无审查$0.4291M最强的无审查选项
DeepSeek V4.1 Flash Heretic$0.257512K更便宜,拒答仍少
GLM 5.3 Flash 无审查$0.2601M双语,长上下文
MiMo V2.6 Flash 无审查$0.6501M轻快
Gemma 4 26B Chimerax Heretic$0.156262K最便宜的入口

角色扮演模型页列了全部 96 个带角色扮演标签的模型和实时价。预算比最后几个点的质量重要时,按输入价排序。

省钱的上下文设置

每一轮都会重发全部历史。30K token 的聊天在 GLM 5.3 Flash 无审查上光输入每轮约 $0.008,500 轮就是 $4,还没算输出。长会话前先调:

  • 上下文长度: 按角色卡需要设,不要设成模型上限。
  • 旧轮次摘要: 让 SillyTavern 压缩历史,而不是原样重发。
  • 精简世界书: 每条常驻条目都是永久输入 token。
  • 设 `max_tokens`: 聊天回复 300–600 通常够,2,000 容易啰嗦还更贵。

想先估一场会话,用价格页。

流式与格式

支持流式,长回复体感即时。除非反代缓冲事件,否则保持开启。

角色扮演里用纯文本输出更稳,别硬塞 JSON。模型开始在对话里输出 Markdown 标题时,加一句 system 指令,不要急着换模型。

排查

现象多半是处理
401Key 带空格或已吊销控制台重新生成
连接 404端点少了 /v1用 https://api.geniusrelaygpt.com/v1
429触发限流或消费上限提高上限或放慢重试
模型列表空连接没通就查了 Key重连后刷新
回复被截断max_tokens 太低或上下文溢出调高上限或裁历史
反复拒答选了强对齐模型换到无审查列表里的模型

完整错误形态见错误码。

角色卡与记忆

长卡提高质量也提高成本,两个折中:

  1. 把稳定设定压成摘要块放在顶部,而不是一大段示例对话。
  2. 开场白写短。 第一条消息每轮都会重发。

设定超过 100K token,就用 1M 上下文模型并接受输入账单,或者把设定拆成按关键词触发的世界书条目。

违反条款吗?

不违反。SillyTavern 只是客户端,GeniusRelay 看到的都是正常 chat completion 请求,计费和其他客户端一样。

常见问题

支持流式吗?

支持,标准 SSE 在 SillyTavern 里可用。

能用很长的角色卡��?

能,直到模型的上下文上限。512K–2M 的模型扛得住详细设定,代价是每轮输入更贵。

角色扮演用哪个模型?

无审查或 Heretic 变体。DeepSeek V4.1 Flash 无审查最强,Chimerax Heretic 最便宜。

能同时跑多个角色吗?

能,但每个会话单独计费。想账目清楚就一个会话一把 Key。

聊到 50 轮之后为什么变差?

模型在读过长的历史,最早的轮次占比过大。压缩历史或开新分支,换模型通常没用。

手机上能用吗?

能,SillyTavern 是网页 UI,端不关心设备。注意别让 Key 出现在截图里。

下一步

按 SillyTavern 教程一步步接,再从角色扮演列表挑模型。如果还写小说,无审查 API 指南里有一次性生成的用法。

Key 与会话卫生

  • 每台设备或每个长会话一把 Key。 花费报告看得清,泄露一把也不用全废。
  • 设到期日。 角色扮演的 Key 不需要活一年。
  • 按 Key 封顶。 忘关的标签页一直生成,是常见的账单尖峰。
  • 分享日志或截图后轮换。 Key 出现的地方比想象中多。

一个扛得住的短提示模板

长 system 提示是永久输入成本。指令只留角色卡自己带不了的部分:

保持人设。回复控制在 2–4 段。
不要替用户叙述动作。结尾留一个开放的接点。

设定放进角色卡或世界书,不要放 system。system 块每轮重发,多一句话就是每个会话每一轮都多付一次。

回复开始重复时

重复通常是温度太低,或者历史里同一种说法占太多。先把温度抬一点,再开新分支。换更大的模型很少解决重复,而且一定更贵。


相关阅读