有完全免费的 SillyTavern API 吗?
在 sillytavern free api reddit 搜索中出现的讨论往往重复相同的建议,其中大部分在一点上成立:为你运行大型模型的不是免费的,因此有人在某处付费。有时这个人是您,通过自己的 GPU 和电力。有时是一家公司将免费层级视为广告,有时是捐赠服务器时间的爱好者,直到账单累积到需要支付。
因此,有用的问题不是免费是否存在。它存在。问题是你交换了什么:硬件、可靠性、隐私、内容自由或你的夜晚。本页依次介绍每种途径,明确说明我们的 API 的位置,并将选择留给你。我们提供付费服务,因此请带着这一考虑权衡我们的观点。
三种免费类型
1. 在自己的机器上运行模型
KoboldCpp、Ollama 和 text-generation-webui 等工具在本地加载开放权重模型,SillyTavern 可以连接它们。设置后,每条消息除了电力外无需成本。你的聊天记录保留在本地,没有人可以更改条款。
成本是硬件和折腾。模型质量随大小扩展,大型模型需要大量显存。较小的量化模型可以在适度 GPU 上运行,但你会注意到长场景的记忆较弱和角色个性不够鲜明。阅读模型卡片、选择量化级别和调整采样器本身就是一项爱好。
2. 托管服务的免费层级
一些提供商提供免费的请求或 token 配额。这些最容易开始:注册,粘贴密钥。缺点是配额、模型和规则会变化,这些变化由提供商自行决定何时公布,而非按你的时间表。一些免费层级可能应用提供商自己的内容规则,这对包含成人主题的小说可能很重要。在养成习惯前,始终检查提供商的当前条款。
3. 社区和捐赠的接口
Reddit 和 Discord 社区有时会分享由志愿者运行的接口。它们可能很棒,也可能一夜之间消失。将你在其中输入的任何内容视为对操作员可见,并且不要重用密码或通过无法验证的代理发送个人详细信息。
免费成本的对比
| 路由 | 金钱 | 你支付 | 主要风险 |
|---|---|---|---|
| 本地模型 | 硬件和功耗 | 设置时间、VRAM 限制 | 较小的模型、较弱的长场景记忆 |
| 免费托管层 | 无,在限制内 | 配额、队列、提供商规则 | 条款变化、内容过滤器 |
| 社区接口 | 无 | 对陌生人的信任 | 消失、隐私未知 |
| 预付 API(我们的) | 每 100 万 token $0.15 / $0.50 | 额度 | 必须充值;本站仅支持加密货币 |
这些都不是错误的。拥有良好游戏 GPU 的学生可能应该从本地开始。想在晚上尝试一个角色的人可以使用任何免费层级。付费途径适用于免费不再可靠足以满足你使用方式的点。
我们的 API 在何处适用
它不免费,我们不会称其为免费。以下是它的定义:一个 OpenAI 兼容的文本 API,服务于一个开放权重模型,由独立提供商运行,并针对合法成人用途无内容拒绝进行优化。你从预付额度按 token 付费。失败或被拒绝的请求不收费,额度永不过期,无订阅。
新用户可以在 API 密钥页面 一键领取 $0.50 试用额度,通过 Google 或电子邮件和密码注册后。无需支付,持续 7 天,每人限领一次。试用密钥允许 2 个并发请求和每分钟 60 个请求,足以满足单个聊天。
该试用是诚实的比较工具。将你的常用角色放入本地模型或免费层级中你使用过的相同场景中运行,然后判断差异是否对你重要。如果无关紧要,你没有任何损失。
两个限制适用于所有用途。模型仅文本,因此没有图像、音频或嵌入。涉及未成年人的性内容永远不允许。
$0.50 和 $20 实际购买什么
考虑 SillyTavern 中的一条中等大小消息:4,000 输入 token(卡片、背景知识和近期历史)和 250 token 回复。
- 输入:4,000 / 1,000,000 x $0.15 = $0.0006
- 输出:250 / 1,000,000 x $0.50 = $0.000125
- 总计:每条消息 $0.000725
$0.50 试用覆盖约 689 条此类消息,因为 0.50 / 0.000725 约为 689。$20 充值覆盖约 27,000。对于月度支出,假设重度用户每天发送 200 条消息,持续 30 天。即 6,000 条消息,6,000 x $0.000725 = $4.35。
更长的上下文提高数字。在 20,000 输入 token 和相同的 250 token 回复下,一条消息成本 20,000 / 1,000,000 x $0.15 = $0.003 输入加上 $0.000125 输出,即 $0.003125。相同的 6,000 条消息将花费 $18.75。你可以通过在 SillyTavern 中选择上下文大小而不是始终使用最大 100,000 token 窗口来控制这一点。
充值金额为整数,范围从 $20 到 $500,其中 $50 起享 +5% 奖励,$100 起享 +10% 奖励,$200 起享 +15% 奖励。本站仅接受加密货币:TRC20 链上的 USDT 或 Base 链上的 USDC。定价页面有详细明细。
在 SillyTavern 中设置
如果你决定测试试用,连接需要一分钟。在 API 连接中选择聊天完成,然后选择自定义(OpenAI 兼容)源,并填写:
- 接口:
https://api.nsfwwan.cc/v1 - API 密钥:来自你账户页面的密钥
- 模型 ID:
uncensored
在将 SillyTavern 接入之前检查密钥,使用标准 OpenAI SDK 运行一个小型 Python 测试:
from openai import OpenAI
client = OpenAI(
base_url="https://api.nsfwwan.cc/v1",
api_key="YOUR_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a sarcastic innkeeper in a fantasy town."},
{"role": "user", "content": "Any rooms left tonight?"},
],
max_tokens=150,
)
print(reply.choices[0].message.content)
更多示例,包括流式输出和函数调用,请参见快速入门。
运行公平测试
论坛上的观点是关于别人的卡片、别人的品味和别人的设置。你自己的一次简短测试比另一个帖子更快地解决它。
- 选择一个你熟悉的角色,并写下它应该始终做的五件事,例如口头习惯或拒绝透露秘密。
- 编写十个开场消息,涵盖平静对话、争吵、长动作场景和安静的感情转折。
- 在每个后端上以相同的 temperature 和相同的回复长度运行所有十个。
- 从四个方面对每个回复进行评分:角色是否保持语气一致,模型是否记住了之前的细节,是否拒绝或添加了免责声明,以及是否以钩子结尾以邀请你的下一条消息。
将分数保存在一个简单的表格中。每个后端十条消息是一个小样本,因此请在第二天重复运行,因为共享免费主机的质量可能会随负载变化。如果一个后端在声音上胜出但在可靠性上落败,这告诉你更看重你自己的哪种习惯。
向任何主机提出的问题
谁运营服务器?提示词是否保留,保留多久?是否用于训练?应用哪些内容规则?超出限制时会发生什么?在我们这边,你可以验证的答案是:提示词不用于训练,限制已公布(试用密钥 2 个并发请求和每分钟 60 个,完整密钥 8 个并发请求和每分钟 300 个),被拒绝或失败的请求不收费。对于其他任何内容,请阅读定价页面和条款,而不是依赖论坛摘要。
一种合理的选择方式
- 从适合你的硬件和耐心的任何免费路线开始。
- 注意让你烦恼的事情:队列、拒绝、遗忘细节、停机。
- 如果这种烦恼是真实的,请花费 $0.50 的试用额度在同一测试场景上进行比较。
- 如果你继续使用,请充值最低 $20,并在一周内观察
X-Balance-USD响应头,以查看你的实际使用情况。
许多人最终会混合使用:本地模型用于快速实验,付费 API 用于长且连贯的会话。这里没有忠诚度测试。
