兩個連線,一個介面
如果你搜尋了 open webui anthropic api,你可能希望在已經用於其他所有用途的聊天視窗中使用 Claude 模型。這可行,且不排除其他後端。Open WebUI 允許你新增多個連線,然後在每個聊天開始時從下拉選單選擇模型。所以真正的問題不是 Anthropic 或其他,而是哪個模型負責哪個任務。
本頁有三個功能。它展示了如何連接 OpenAI 相容的端點,以我們的端點作為實例。它以一般層級描述 Anthropic 模型如何融入 Open WebUI,且不企圖取代其文件。它還提供了一個明確的決策規則,說明何時使用各自,並精確計算我們這側的成本。
連接 Anthropic 模型
我們不運營 Anthropic API,也不會告訴你其價格或限制。請查閱他們的文件和你的帳戶以獲取最新數據。可以安全說明的是這些組件之間的關係。
Open WebUI 的原生連線類型採用 OpenAI 聊天完成格式。Anthropic 發布了自己的原生 API,截至撰寫時,將其模型引入有兩種常見方式:在 Open WebUI 內部安裝的社群函式或管道,或是 Anthropic 為其 API 記錄的 OpenAI 格式相容性路徑。這兩者都會隨時間變化,因此請開啟當前的 Open WebUI 連線文件與當前的 Anthropic 相容性文件,並遵循目前建議的方式。
無論你採取哪種方式,請將 Anthropic 金鑰與其他所有金鑰分開,並在 Anthropic 帳戶中設置支出限額(如果提供)。託管的先進模型會對每個請求應用自己的內容政策,因此在規劃創意工作之前請閱讀這些政策。
新增 OpenAI 相容的端點
這部分很簡單,因為它是 Open WebUI 圍繞其設計的連線類型。在管理員設定中,開啟「連線」,新增一個 OpenAI API 連線並輸入:
- URL:
https://api.nsfwwan.cc/v1 - 金鑰:你的 API 金鑰
儲存後,模型列表會透過呼叫 GET /v1/models 重新整理。你應該會看到 uncensored 出現。標籤在不同版本的 Open WebUI 中略有不同,但欄位始終是一個 URL 和一個金鑰。
如果你使用 Docker 啟動 Open WebUI,你可以透過環境變數提供連線:
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL="https://api.nsfwwan.cc/v1" \
-e OPENAI_API_KEY="YOUR_KEY" \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:main
在執行任一操作之前,請確認金鑰在終端機中有效。這也會顯示你稍後將依賴的標頭:
curl -i https://api.nsfwwan.cc/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}],"max_tokens":30}'
在回應標頭中尋找 X-Balance-USD。它顯示剩餘的額度。要獲取金鑰,請使用 金鑰頁面;新用戶可以一鍵領取 $0.50 的試用額度,有效期為 7 天,無需付款資訊。
哪個模型用於哪個任務
| 任務 | 更好的契合度 |
|---|---|
| 程式碼審查、長文件分析、謹慎推理 | Anthropic 模型,如果其品質符合你的需求 |
| 任何需要指定供應商模型以符合合規性或一致性的情況 | 該供應商,直接 |
| 小說、角色扮演和伴侶聊天,適用於主流模型拒絕的合法成人用途 | 無審查端點 |
| 大量草稿,其中每 token 價格很重要 | 比較當前價格,然後在你的提示詞上測試兩者 |
| 圖像、音訊、嵌入 | 兩者都不是;我們的 API 僅限文字 |
我們是一個小型純文字服務。我們的模型是一個由獨立供應商運行的開放權重模型,經過調整以避免內容拒絕。它不是 Anthropic 的模型,也不聲稱在所有任務上的表現能與之匹敵。如果 Claude 適合你的工作及其政策,請使用它。無審查端點適用於拒絕會阻止工作的案例。
我們這側有一個規則保持不變:無論如何包裝,都禁止涉及未成年人的性內容。
一個實用的模式是將 Anthropic 模型保留為日常工作的預設值,僅在開始創意工作階段時切換到無審查模型。這可以保持成本可預測,因為你只為需要它的對話支付我們的每 token 費率。它也能保持你的歷史記錄整潔,因為創意對話和工作對話位於具有明顯不同模型名稱的獨立對話中。如果你後來發現一個後端涵蓋了你所有的需求,移除另一個連線很輕鬆,且沒有任何損失。
無審查側的成本
我們的價格是每 100 萬輸入 token $0.15,每 100 萬輸出 token $0.50,從預付額度計費。失敗或被拒絕的請求不會收費,且額度永不過期。Open WebUI 中的兩個範例:
短聊天訊息
3,000 token 的提示詞(系統文本加歷史)和 500 token 的回覆:
- 輸入:3,000 / 1,000,000 x $0.15 = $0.00045
- 輸出:500 / 1,000,000 x $0.50 = $0.00025
- 總計:$0.0007
一千次此類請求的成本為 $0.70。
上下文中的長文件
上傳 60,000 token 的手稿並要求 1,000 token 的評論。輸入為 60,000 / 1,000,000 x $0.15 = $0.009,輸出為 1,000 / 1,000,000 x $0.50 = $0.0005,總計 $0.0095。視窗包含提示詞和回覆共 100,000 token,因此這可以容納,但後續問題每次都會重新發送文件,每次成本約為相同金額。Open WebUI 的檢索功能可以只發送相關部分,從而降低費用。
儲值金額從 $20 到 $500 整數美元,從 $50 起有 +5% 獎勵,從 $100 起有 +10% 獎勵,從 $200 起有 +15% 獎勵。本網站僅接受加密貨幣,使用 TRC20 上的 USDT 或 Base 上的 USDC。請參見 定價頁面。
如果連線無法運作
大多數故障歸因於少數幾個原因,你可以按順序排除它們。
- URL。 它必須以
/v1結尾。不要自己新增/chat/completions,因為 Open WebUI 會新增它需要的路徑。缺少/v1或路徑重複會導致找不到錯誤。 - 金鑰。 無空格或引號地貼上它。401 回應表示金鑰被拒絕,從你的帳戶頁面獲取的新副本可以解決此問題。
- 模型列表。 如果下拉選單為空,請在終端機中執行
GET /v1/models檢查。如果 curl 有效但 Open WebUI 無效,則問題出在連線表單中,而非服務中。 - 驗證。 某些 Open WebUI 版本在連線旁邊有一個驗證按鈕。每次編輯後使用它,而不是開始聊天來測試。
- 提前停止的長回答。 檢查聊天設定中的任何 max tokens 設定。API 本身不需要設定,且補全請求可以使用剩餘的 100,000 token 視窗。
當你聯繫支援時,請引用 X-Request-Id 回應標頭。它識別我們端確切的請求,並節省一輪提問。
運行兩者的實用建議
- 為模型命名。在 Open WebUI 的管理面板中,你可以重新命名並描述模型,讓下拉選單清楚顯示各模型的區別。
- 保持系統提示詞獨立。針對特定模型調整的提示詞,用在其他模型上可能會顯得突兀。請為每個模型建立預設設定。
- 敏感工作不要在中途切換模型。每個模型都能看到完整的對話歷史。在貼上任何私人資訊之前,請先決定後端。
- 注意並行請求。 完整金鑰允許 8 個並行請求和每分鐘 300 個;試用金鑰允許 2 個和 60 個。如果幾個人共用一個 Open WebUI,狀態碼為
concurrency的 429 錯誤表示同時開啟的串流過多。帶有Retry-After: 5標頭的 429 錯誤是暫時過載,因此請稍後重試。 - 支援串流輸出。啟用串流輸出時,最後一個區塊會包含用量資訊,有助於你追蹤支出。
傳送至我們 API 的提示詞不會用於訓練。更多關於參數和函式呼叫的詳細資訊,請參考 快速入門。
