两个连接,一个界面
如果你搜索了 open webui anthropic api,你可能希望在已经用于其他所有工作的同一个聊天窗口中使用 Claude 模型。这是可行的,并且不排除其他后端。Open WebUI 允许你添加多个连接,然后在每个聊天的开始时从下拉菜单中选择模型。因此,真正的问题不是 Anthropic 还是其他,而是哪个模型承担哪项工作。
本页面做三件事。它展示了如何连接 OpenAI 兼容的端点,以我们的端点作为工作示例。它以通用方式描述了 Anthropic 模型如何融入 Open WebUI,但不假装替代其文档。它提供了一个明确的决策规则,说明何时使用每个模型,并精确计算了我方的成本。
连接 Anthropic 模型
我们不运营 Anthropic API,也不会告诉你其价格或限制。请查阅他们的文档和你的账户以获取当前数据。可以安全说明的是各部分之间的关系。
Open WebUI 的原生连接类型使用 OpenAI chat completions 格式。Anthropic 发布了自己的原生 API,截至撰写本文时,引入其模型有两种常见方法:安装在 Open WebUI 内部的社区函数或管道,或者 Anthropic 为其 API 文档化的 OpenAI 格式兼容路由。这两种方法都会随时间变化,因此请打开当前 Open WebUI 的连接文档和当前的 Anthropic 兼容性文档,并遵循今天推荐的方法。
无论你采取哪种途径,都将 Anthropic 密钥与其他所有密钥分开,并在 Anthropic 账户中设置支出限额(如果提供)。托管的前沿模型会对每个请求应用自己的内容策略,因此在围绕它们规划创意工作之前请阅读这些策略。
添加 OpenAI 兼容的接口
这部分很简单,因为它是 Open WebUI 围绕其构建的连接类型。在管理员设置中,打开连接,添加一个新的 OpenAI API 连接并输入:
- URL:
https://api.nsfwwan.cc/v1 - 密钥:你的 API 密钥
保存后,模型列表会通过调用 GET /v1/models 进行刷新。你应该看到 uncensored 出现。标签在不同 Open WebUI 版本之间略有不同,但字段始终是 URL 和密钥。
如果你使用 Docker 启动 Open WebUI,你可以通过环境变量提供连接:
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL="https://api.nsfwwan.cc/v1" \
-e OPENAI_API_KEY="YOUR_KEY" \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:main
在执行任一操作之前,请确认密钥在终端中有效。这还将显示你稍后将依赖的 HTTP 头部:
curl -i https://api.nsfwwan.cc/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}],"max_tokens":30}'
在响应头中查找 X-Balance-USD。它显示剩余的信用额度。要获取密钥,请使用 密钥页面;新用户可以在那里一键领取 $0.50 的试用额度,有效期 7 天,无需支付详情。
哪个模型用于哪项工作
| 任务 | 更好的匹配 |
|---|---|
| 代码审查、长文档分析、谨慎推理 | Anthropic 模型,如果其质量是你所需要的 |
| 任何需要命名供应商模型以满足合规性或一致性的场景 | 该供应商,直接 |
| 小说、角色扮演和用于合法成人用途的伴侣聊天,主流模型可能会拒绝 | 无审查接口 |
| 大批量草稿,其中每 token 价格很重要 | 比较当前价格,然后在你的提示词上测试两者 |
| 图像、音频、嵌入 | 两者都不是;我们的 API 仅限文本 |
我们是一个小型的仅限文本的服务。我们的模型是一款由独立供应商运行的开放权重模型,经过调整以避免内容拒绝。它不是 Anthropic 的模型,也不声称在所有任务上与之匹配。如果 Claude 适合你的工作及其策略,请使用它。无审查端点用于那些因拒绝而停止工作的场景。
我们这边有一条不变的规则:涉及未成年人的性内容,无论何种形式,均禁止。
一种实用的模式是将 Anthropic 模型保留为日常工作的默认模型,仅在开始创意会话时切换到无审查模型。这使成本可预测,因为你只为需要它的聊天支付我们的每 token 费率。它还使你的历史记录保持整洁,因为小说聊天和工作聊天位于具有不同模型名称的单独线程中。如果你后来发现一个后端涵盖了所有需求,移除另一个连接只需一分钟,且不会丢失任何内容。
无审查服务的费用
我们的价格是每 1M 输入 token $0.15,每 1M 输出 token $0.50,从预付额度中计费。失败或被拒绝的请求不收费,且额度永不过期。Open WebUI 中的两个示例:
短聊天消息
3,000 token 的提示词(系统文本加历史记录)和 500 token 的回复:
- 输入:3,000 / 1,000,000 x $0.15 = $0.00045
- 输出:500 / 1,000,000 x $0.50 = $0.00025
- 总计:$0.0007
一千次这样的请求成本为 $0.70。
上下文中的长文档
上传 60,000 token 的手稿并请求 1,000 token 的评论。输入费用为 60,000 / 1,000,000 x $0.15 = $0.009,输出费用为 1,000 / 1,000,000 x $0.50 = $0.0005,总计 $0.0095。上下文窗口为 100,000 token(包含提示词和回复),因此可以容纳,但后续问题会重新发送文档,每次费用大致相同。Open WebUI 的检索功能可以仅发送相关内容,从而降低费用。
充值从 $20 到 $500 的整数美元,从 $50 起有 +5% 的奖金,从 $100 起有 +10% 的奖金,从 $200 起有 +15% 的奖金。本网站仅接受加密货币,使用 TRC20 上的 USDT 或 Base 上的 USDC。请参阅 定价页面。
如果连接不起作用
大多数故障归结为少数几个原因,你可以按顺序排除它们。
- URL。 必须以
/v1结尾。不要自行添加/chat/completions,因为 Open WebUI 会添加所需的路径。缺少/v1或路径重复会导致未找到错误。 - 密钥。 粘贴时不带空格或引号。401 响应表示密钥被拒绝,从你的账户页面获取新副本即可解决。
- 模型列表。 如果下拉菜单为空,请在终端中运行
GET /v1/models检查。如果 curl 有效但 Open WebUI 无效,则问题出在连接表单中,而不是服务中。 - 验证。 某些 Open WebUI 版本在连接旁边有一个验证按钮。在每次编辑后使用它,而不是开始聊天进行测试。
- 过早停止的长答案。 检查聊天控件中的 max_tokens 设置。API 本身不需要该设置,补全可以使用 100,000 token 窗口的其余部分。
联系支持时,请提供 X-Request-Id 响应头。它能在我们这边标识具体请求,从而节省一轮提问。
同时运行两个连接的实用建议
- 为模型命名。 在 Open WebUI 的管理面板中,你可以重命名模型并添加描述,这样下拉菜单就能清晰区分各个模型。
- 保持系统提示词独立。 针对某一模型优化的提示词,在另一个模型中可能读起来很奇怪。请为每个模型创建独立的预设。
- 敏感任务不要在对话中途切换模型。 每个模型都能看到完整的对话历史。在粘贴任何私密内容之前,先确定后端模型。
- 注意并发。 完整密钥允许 8 个并发请求和每分钟 300 个请求;试用密钥允许 2 个和 60 个。如果多人共享一个 Open WebUI,出现代码为
concurrency的 429 错误,表示同时打开的流式连接过多。带有Retry-After: 5头的 429 错误是临时过载,请稍后重试。 - 流式输出有效。 开启流式输出后,最后一个数据块会包含使用情况,有助于你追踪花费。
发送给 API 的提示词不会用于训练。关于参数和工具调用的更多详情,请参阅 快速入门。
