繁中 ▾
取得 API 金鑰

Open WebUI Anthropic API 與無審查模型

更新

Open WebUI 可以同時保持多個模型連線,因此你不必永遠只選擇一個供應商。本頁涵蓋如何新增 Anthropic 模型、在其旁邊新增我們的模型,以及針對聊天進行選擇。

控制面板顯示兩個連線匯入單一聊天視窗,說明單一介面中的兩個模型後端

重點摘要

  1. Open WebUI 與 OpenAI 相容的端點通訊;我們的 API 只需要 URL、金鑰和模型 ID uncensored。
  2. 對於 Anthropic 模型,請遵循當前的 Open WebUI 和 Anthropic 文件,因為連線方式屬於他們且可能會變更。
  3. 對於符合其政策的任務使用 Anthropic 模型,對於其不會撰寫的合法成人小說使用無審查模型。
  4. 我們的費用為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50;3,000 token 的提示詞加上 500 token 的回覆費用為 $0.0007。

兩個連線,一個介面

如果你搜尋了 open webui anthropic api,你可能希望在已經用於其他所有用途的聊天視窗中使用 Claude 模型。這可行,且不排除其他後端。Open WebUI 允許你新增多個連線,然後在每個聊天開始時從下拉選單選擇模型。所以真正的問題不是 Anthropic 或其他,而是哪個模型負責哪個任務。

本頁有三個功能。它展示了如何連接 OpenAI 相容的端點,以我們的端點作為實例。它以一般層級描述 Anthropic 模型如何融入 Open WebUI,且不企圖取代其文件。它還提供了一個明確的決策規則,說明何時使用各自,並精確計算我們這側的成本。

連接 Anthropic 模型

我們不運營 Anthropic API,也不會告訴你其價格或限制。請查閱他們的文件和你的帳戶以獲取最新數據。可以安全說明的是這些組件之間的關係。

Open WebUI 的原生連線類型採用 OpenAI 聊天完成格式。Anthropic 發布了自己的原生 API,截至撰寫時,將其模型引入有兩種常見方式:在 Open WebUI 內部安裝的社群函式或管道,或是 Anthropic 為其 API 記錄的 OpenAI 格式相容性路徑。這兩者都會隨時間變化,因此請開啟當前的 Open WebUI 連線文件與當前的 Anthropic 相容性文件,並遵循目前建議的方式。

無論你採取哪種方式,請將 Anthropic 金鑰與其他所有金鑰分開,並在 Anthropic 帳戶中設置支出限額(如果提供)。託管的先進模型會對每個請求應用自己的內容政策,因此在規劃創意工作之前請閱讀這些政策。

新增 OpenAI 相容的端點

這部分很簡單,因為它是 Open WebUI 圍繞其設計的連線類型。在管理員設定中,開啟「連線」,新增一個 OpenAI API 連線並輸入:

  • URL:https://api.nsfwwan.cc/v1
  • 金鑰:你的 API 金鑰

儲存後,模型列表會透過呼叫 GET /v1/models 重新整理。你應該會看到 uncensored 出現。標籤在不同版本的 Open WebUI 中略有不同,但欄位始終是一個 URL 和一個金鑰。

如果你使用 Docker 啟動 Open WebUI,你可以透過環境變數提供連線:

docker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.nsfwwan.cc/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

在執行任一操作之前,請確認金鑰在終端機中有效。這也會顯示你稍後將依賴的標頭:

curl -i https://api.nsfwwan.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}],"max_tokens":30}'

在回應標頭中尋找 X-Balance-USD。它顯示剩餘的額度。要獲取金鑰,請使用 金鑰頁面;新用戶可以一鍵領取 $0.50 的試用額度,有效期為 7 天,無需付款資訊。

哪個模型用於哪個任務

任務更好的契合度
程式碼審查、長文件分析、謹慎推理Anthropic 模型,如果其品質符合你的需求
任何需要指定供應商模型以符合合規性或一致性的情況該供應商,直接
小說、角色扮演和伴侶聊天,適用於主流模型拒絕的合法成人用途無審查端點
大量草稿,其中每 token 價格很重要比較當前價格,然後在你的提示詞上測試兩者
圖像、音訊、嵌入兩者都不是;我們的 API 僅限文字

我們是一個小型純文字服務。我們的模型是一個由獨立供應商運行的開放權重模型,經過調整以避免內容拒絕。它不是 Anthropic 的模型,也不聲稱在所有任務上的表現能與之匹敵。如果 Claude 適合你的工作及其政策,請使用它。無審查端點適用於拒絕會阻止工作的案例。

我們這側有一個規則保持不變:無論如何包裝,都禁止涉及未成年人的性內容。

一個實用的模式是將 Anthropic 模型保留為日常工作的預設值,僅在開始創意工作階段時切換到無審查模型。這可以保持成本可預測,因為你只為需要它的對話支付我們的每 token 費率。它也能保持你的歷史記錄整潔,因為創意對話和工作對話位於具有明顯不同模型名稱的獨立對話中。如果你後來發現一個後端涵蓋了你所有的需求,移除另一個連線很輕鬆,且沒有任何損失。

無審查側的成本

我們的價格是每 100 萬輸入 token $0.15,每 100 萬輸出 token $0.50,從預付額度計費。失敗或被拒絕的請求不會收費,且額度永不過期。Open WebUI 中的兩個範例:

短聊天訊息

3,000 token 的提示詞(系統文本加歷史)和 500 token 的回覆:

  • 輸入:3,000 / 1,000,000 x $0.15 = $0.00045
  • 輸出:500 / 1,000,000 x $0.50 = $0.00025
  • 總計:$0.0007

一千次此類請求的成本為 $0.70。

上下文中的長文件

上傳 60,000 token 的手稿並要求 1,000 token 的評論。輸入為 60,000 / 1,000,000 x $0.15 = $0.009,輸出為 1,000 / 1,000,000 x $0.50 = $0.0005,總計 $0.0095。視窗包含提示詞和回覆共 100,000 token,因此這可以容納,但後續問題每次都會重新發送文件,每次成本約為相同金額。Open WebUI 的檢索功能可以只發送相關部分,從而降低費用。

儲值金額從 $20 到 $500 整數美元,從 $50 起有 +5% 獎勵,從 $100 起有 +10% 獎勵,從 $200 起有 +15% 獎勵。本網站僅接受加密貨幣,使用 TRC20 上的 USDT 或 Base 上的 USDC。請參見 定價頁面。

如果連線無法運作

大多數故障歸因於少數幾個原因,你可以按順序排除它們。

  1. URL。 它必須以 /v1 結尾。不要自己新增 /chat/completions,因為 Open WebUI 會新增它需要的路徑。缺少 /v1 或路徑重複會導致找不到錯誤。
  2. 金鑰。 無空格或引號地貼上它。401 回應表示金鑰被拒絕,從你的帳戶頁面獲取的新副本可以解決此問題。
  3. 模型列表。 如果下拉選單為空,請在終端機中執行 GET /v1/models 檢查。如果 curl 有效但 Open WebUI 無效,則問題出在連線表單中,而非服務中。
  4. 驗證。 某些 Open WebUI 版本在連線旁邊有一個驗證按鈕。每次編輯後使用它,而不是開始聊天來測試。
  5. 提前停止的長回答。 檢查聊天設定中的任何 max tokens 設定。API 本身不需要設定,且補全請求可以使用剩餘的 100,000 token 視窗。

當你聯繫支援時,請引用 X-Request-Id 回應標頭。它識別我們端確切的請求,並節省一輪提問。

運行兩者的實用建議

  • 為模型命名。在 Open WebUI 的管理面板中,你可以重新命名並描述模型,讓下拉選單清楚顯示各模型的區別。
  • 保持系統提示詞獨立。針對特定模型調整的提示詞,用在其他模型上可能會顯得突兀。請為每個模型建立預設設定。
  • 敏感工作不要在中途切換模型。每個模型都能看到完整的對話歷史。在貼上任何私人資訊之前,請先決定後端。
  • 注意並行請求。 完整金鑰允許 8 個並行請求和每分鐘 300 個;試用金鑰允許 2 個和 60 個。如果幾個人共用一個 Open WebUI,狀態碼為 concurrency 的 429 錯誤表示同時開啟的串流過多。帶有 Retry-After: 5 標頭的 429 錯誤是暫時過載,因此請稍後重試。
  • 支援串流輸出。啟用串流輸出時,最後一個區塊會包含用量資訊,有助於你追蹤支出。

傳送至我們 API 的提示詞不會用於訓練。更多關於參數和函式呼叫的詳細資訊,請參考 快速入門。

問答

Open WebUI 可以直接使用 Anthropic API 嗎?

Open WebUI 文件列出了支援新增 Anthropic 模型的方式,例如透過函式或相容性路徑。請查看其最新文件以及 Anthropic 的文件,因為這些方法可能會變更。

我要為你的端點使用哪個模型 ID?

使用 uncensored。Base URL 是 https://api.nsfwwan.cc/v1,認證方式是 Bearer 金鑰。

我可以同時保持兩個連線啟用嗎?

是的。Open WebUI 會將所有連線的模型顯示在一個下拉選單中,因此你可以針對每個對話進行選擇。

你們提供 Anthropic 模型嗎?

不提供。我們提供一個由獨立供應商運行的開放權重模型。我們不是 Anthropic API,也不是跨供應商的路由器。

是否有方法可以免費試用?

新用戶可以在金鑰頁面點擊一次領取 $0.50 的免費試用額度。它持續 7 天,不需要付款詳情,且每人限領一次。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰