有完全免費的 SillyTavern API 嗎?
搜尋「sillytavern free api reddit」時出現的討論串往往重複相同的建議,且大部分建議在一個方面成立:為你運行大型模型的服務並非免費營運,因此總有人在付費。有時這個人是你,透過你自己的 GPU 和電費付費。有時是一家將免費層級視為廣告的公司,有時是一位捐贈伺服器時間的業餘愛好者,直到帳單到期為止。
因此,有無免費 API 並非關鍵問題。免費確實存在。問題是你為此讓步什麼:硬體、可靠性、隱私、內容自由度或你的夜晚時間。本頁將逐一說明各途徑,明確指出我們的 API 定位,並將選擇權留給你。我們提供付費服務,因此請在評估我們的觀點時考慮這一點。
三種免費類型
1. 在你的機器上運行模型
KoboldCpp、Ollama 和 text-generation-webui 等工具會在本地載入開放權重模型,SillyTavern 可與它們連接。設定後,每則訊息的成本僅為電力。你的聊天不會離開電腦,且沒有人可以更改條款來針對你。
成本在於硬體和調試。模型品質隨規模增長,大型模型需要大量顯存。較小的量化模型可在入門級 GPU 上運行,但你會發現長場景記憶較弱且角色性格扁平。閱讀模型說明卡、選擇量化級別和調整採樣器本身就是一種愛好。
2. 託管服務的免費層級
部分供應商提供免費的請求次數或 token 配額。這些最容易上手:註冊後貼上 API 金鑰即可。但需注意,配額、模型和規則會變動,且這些變動的公告時間由供應商決定,而非由你決定。部分免費方案可能會套用供應商自身的內容規則,這對包含成人主題的小說來說可能很重要。在養成使用習慣前,務必先檢查供應商目前的條款。
3. 社群和捐贈的端點
Reddit 和 Discord 社群有時會分享由志願者運行的端點。它們可能很棒,也可能一夜之間消失。將你在其中輸入的內容視為對操作者可見,且不要重用密碼或透過無法驗證的代理發送個人資訊。
免費的成本對比
| 途徑 | 金錢 | 你支付 | 主要風險 |
|---|---|---|---|
| 本地模型 | 硬體與電力 | 設定時間、VRAM 限制 | 較小模型、較弱的長場景記憶 |
| 免費託管方案 | 無,在限制內 | 配額、排隊、提供者規則 | 條款變更、內容篩選 |
| 社群端點 | 無 | 對陌生人的信任 | 消失、隱私不明 |
| 預付 API(我們的) | 每 100 萬 token $0.15 / $0.50 | 額度 | 必須儲值;本站僅接受加密貨幣 |
這些都不是錯誤。擁有良好遊戲 GPU 的學生可能應從本地開始。想嘗試一個角色一晚的人可以使用任何免費層級。付費途徑適合免費不再足夠可靠以滿足你使用方式的點。
我們的 API 定位
它不是免費的,我們也不會稱之為免費。這裡是什麼:一個 OpenAI 相容的文字 API,服務單一開放權重模型,由獨立提供者運行,並針對合法成人用途在不拒絕內容的情況下進行調優。你從預付額度按 token 付費。失敗或被拒絕的請求不收費,額度永不過期,且沒有訂閱制。
新用戶可在 API 金鑰頁面 一鍵領取 $0.50 試用額度,註冊方式為 Google 或電子郵件與密碼。無需付款,有效期 7 天,每人限領一次。試用金鑰允許 2 個並行請求和每分鐘 60 個請求,足以滿足單一聊天需求。
該試用是誠實的比較工具。將你常用的角色通過與本地模型或免費層級相同的場景運行,並決定差異是否對你重要。如果沒有差異,你沒有損失任何東西。
所有使用都適用兩個限制。模型僅限文字,因此沒有圖像、音頻或嵌入。且禁止涉及未成年人的性內容。
$0.50 和 $20 實際能買到什麼
考慮 SillyTavern 中的一條中等訊息:4,000 個輸入 token(卡片、角色背景設定和近期歷史)以及 250 個 token 的回覆。
- 輸入:4,000 / 1,000,000 x $0.15 = $0.0006
- 輸出:250 / 1,000,000 x $0.50 = $0.000125
- 總計:每則訊息 $0.000725
$0.50 的試用額度可覆蓋約 689 則此類訊息,因為 $0.50 / $0.000725 約為 689。$20 的儲值可覆蓋約 27,000 則。對於月度支出,假設重度用戶每天發送 200 則訊息,持續 30 天。那就是 6,000 則訊息,6,000 x $0.000725 = $4.35。
較長的上下文視窗會提高費用。若輸入為 20,000 個 token,輸出為 250 個 token,一則訊息的輸入成本為 20,000 / 1,000,000 x $0.15 = $0.003,加上輸出的 $0.000125,總計 $0.003125。同樣的 6,000 則訊息將花費 $18.75。你可以透過在 SillyTavern 中選擇上下文大小而非始終使用最大 100,000 token 視窗來控制這一點。
儲值金額為 $20 至 $500 的任意整數,從 $50 起享 +5% 贈額,從 $100 起享 +10% 贈額,從 $200 起享 +15% 贈額。本站僅接受加密貨幣:TRC20 上的 USDT 或 Base 上的 USDC。定價頁面有完整明細。
在 SillyTavern 中設定
如果你決定測試試用額度,連線過程需要一分鐘。在 API 連線中選擇 Chat Completion,然後選擇 Custom (OpenAI-compatible) 來源,並填入:
- 端點:
https://api.nsfwwan.cc/v1 - API 金鑰:你帳戶頁面的金鑰
- 模型 ID:
uncensored
在涉及 SillyTavern 之前檢查金鑰,請使用標準 OpenAI SDK 運行小型 Python 測試:
from openai import OpenAI
client = OpenAI(
base_url="https://api.nsfwwan.cc/v1",
api_key="YOUR_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a sarcastic innkeeper in a fantasy town."},
{"role": "user", "content": "Any rooms left tonight?"},
],
max_tokens=150,
)
print(reply.choices[0].message.content)
更多範例(含串流輸出與工具呼叫)請見快速入門。
進行公平的測試
論壇上的意見關於他人的卡片、他人的品味和他人的設定。你自己的短測試比另一個討論串更快解決問題。
- 選擇一個你非常熟悉的角色,並列出它應該始終執行的五件事,例如口頭習慣或拒絕透露秘密。
- 撰寫十個開場訊息,涵蓋平靜的對話、一場爭吵、一段長篇動作場景,以及一個安靜的情感轉折。
- 在所有後端上以相同的 temperature 和相同的回覆長度執行這十個測試。
- 針對四個項目評分每個回覆:角色是否維持角色聲線、模型是否記住先前的細節、是否有拒絕或新增免責聲明,以及結尾是否有鉤子(hook)以邀請你繼續輸入訊息。
將評分保留在純文字表格中。每個後端僅十個訊息屬於小樣本,因此請在第二天重複執行,因為共用免費主機的品質可能會隨負載而變化。如果某個後端在語氣上獲勝但在可靠性上落敗,這將告訴你更重視哪一種你自己的使用習慣。
向任何主機詢問的問題
伺服器由誰營運?提示詞是否會被保留,保留多久?是否用於訓練?適用哪些內容規則?超過限制時會發生什麼事?就我們這邊而言,你可以驗證的答案是:提示詞不會用於訓練,限制已公開(試用金鑰為 2 個並行請求和每分鐘 60 個請求,完整金鑰為 8 個並行請求和每分鐘 300 個請求),且被拒絕或失敗的請求不會收費。其他任何事項,請閱讀 定價頁面和條款,而非依賴論壇摘要。
一個合理的選擇方式
- 從符合你的硬體和耐心的任何免費途徑開始。
- 注意讓你感到煩躁的地方:排隊、拒絕、遺漏的細節、離線時間。
- 如果這種煩躁是真實存在的,請花費 $0.50 的試用額度進行相同的測試場景並進行比較。
- 如果決定繼續使用,請儲值最低 $20,並觀察
X-Balance-USD回應標題一週,以了解你的實際用量。
許多人最終會混合使用:本地模型用於快速實驗,付費 API 用於需要長篇且連貫的對話。這裡沒有忠誠度測試。
