SillyTavern 用の完全に無料の API はありますか?
「sillytavern free api reddit」の検索で見つかるスレッドは似たような助言を繰り返す傾向があり、その多くは「大規模モデルを動かすには運営コストがかかるため、誰かが支払っている」という点で妥当です。その支払う側は、自分のGPUと電気代で負担するあなたかもしれません。無料枠を宣伝と見なす企業かもしれません。あるいは、請求書が長期化するまでサーバー時間を寄付するホビイストかもしれません。
したがって有用な質問は「無料が存在するか」ではありません。存在します。問題は、ハードウェア、信頼性、プライバシー、コンテンツの自由、またはあなたの夜を何と交換するかです。このページでは各ルートを順に検討し、当 API の位置を明確にし、選択はあなたに委ねます。私たちは有料サービスを提供しているので、その点を踏まえて当方の見解を評価してください。
3種類の無料
1. 自分のマシンでモデルを実行する
KoboldCpp、Ollama、text-generation-webui などのツールはオープンウェイトモデルをローカルにロードし、SillyTavern はそれらに接続できます。セットアップ後、各メッセージの費用は電力のみです。チャットはコンピュータから離れず、誰かがあなたに条件を変更することもありません。
コストはハードウェアと調整です。モデルの品質はサイズに比例し、大規模モデルには多くの VRAM が必要です。小さな量子化モデルは控えめな GPU で動作しますが、長いシーンの記憶が弱く、キャラクターが平坦になることに気づくでしょう。モデルカードの読み込み、量子化レベルの選択、サンプリラーの調整はそれ自体が趣味です。
2. ホストサービスの無料ティア
一部のプロバイダーはリクエストまたはトークンの無料枠を提供しています。これらは最も始めやすいものです:サインアップし、キーを貼り付けるだけです。ただし、枠、モデル、ルールは変更され、その変更はあなたのスケジュールではなくプロバイダーのスケジュールで発表されます。無料ティアにはプロバイダー独自のコンテンツルールが適用される場合があり、成人向けテーマのフィクションでは重要になります。習慣にする前に、常にプロバイダーの現在の利用規約を確認してください。
3. コミュニティと寄付されたエンドポイント
Reddit や Discord のコミュニティでは、ボランティアが運営するエンドポイントが共有されることがあります。それらは素晴らしいものですが、一夜で消えることもあります。そこで入力したものはすべて運営者に見えるものとして扱い、同じパスワードを使い回したり、検証できないプロキシ経由で個人情報を送ったりしないでください。
無料があなたに課すコストの比較
| ルーティング | 費用 | あなたは以下で支払います | 主なリスク |
|---|---|---|---|
| ローカルモデル | ハードウェアと電力 | セットアップ時間、VRAM の制限 | 小さなモデル、長いシーンの記憶が弱い |
| 無料のホストされた枠 | 制限内ならなし | クォータ、キュー、プロバイダーのルール | 利用規約の変更、コンテンツフィルター |
| コミュニティエンドポイント | なし | 見知らぬ人への信頼 | 消える、プライバシー不明 |
| 前払い API(当社) | 1M トークンあたり $0.15 / $0.50 | クレジット | チャージが必要です。このサイトでは暗号資産のみ |
これらすべてが間違っているわけではありません。良いゲーミング GPU を持つ学生はローカルから始めるべきでしょう。1 人のキャラクターを一夜試したい人は、どの無料ティアでも使えます。有料ルートは、無料があなたの使い方に十分に信頼できなくなった時点で適しています。
当 API の位置づけ
無料ではなく、そう呼ぶこともありません。ここでのそれは:1 つのオープンウェイトモデルを提供する OpenAI 互換テキスト API で、独立したプロバイダーによって運営され、法的な成人用途に対してコンテンツ拒否なしで応答するようにチューニングされています。トークンごとに前払いクレジットから課金されます。失敗または拒否されたリクエストは課金されず、クレジットは期限切れにならず、サブスクリプションはありません。
新規ユーザーは、Google またはメールとパスワードでサインアップした後、API キーページでワンクリックで $0.50 の試用クレジットを受け取ることができます。支払い不要で、7 日間有効、1 人 1 回限りの制限があります。試用キーは 2 同時実行リクエストと 1 分あたり 60 リクエストを許可し、単一のチャットには十分です。
その試用は正直な比較ツールです。ローカルモデルや無料ティアで使ったのと同じシーンで通常のキャラクターを実行し、その差があなたにとって重要かどうかを判断してください。重要でなければ、何も失いません。
すべての利用に 2 つの制限が適用されます。モデルはテキストのみなので、画像、音声、埋め込みはありません。また、未成年者を含む性的コンテンツは常に禁止されています。
$0.50 と $20 で実際に何を購入できるか
SillyTavern の中規模メッセージを考えます:4,000 トークンの入力(キャラクターカード、設定情報、最近の履歴)と 250 トークンの返信。
- 入力:4,000 / 1,000,000 x $0.15 = $0.0006
- 出力:250 / 1,000,000 x $0.50 = $0.000125
- 合計:メッセージあたり $0.000725
$0.50 の試用は約 689 件のメッセージをカバーします($0.50 / $0.000725 は約 689)。$20 のチャージは約 27,000 件をカバーします。月間支出については、1 日 200 メッセージを 30 日間送信する重度ユーザーを想定します。それは 6,000 メッセージで、6,000 x $0.000725 = $4.35 です。
長いコンテキストは費用を増やします。20,000 トークンの入力と同じ 250 トークンの返信の場合、メッセージの入力は 20,000 / 1,000,000 x $0.15 = $0.003、出力は $0.000125 で、合計 $0.003125 になります。同じ 6,000 メッセージの場合、$18.75 かかります。これは、常に最大 100,000 トークンのウィンドウではなく、SillyTavern でコンテキストサイズを選択することで制御できます。
チャージは$20〜$500の任意の整数金額で可能で、$50以上で+5%、$100以上で+10%、$200以上で+15%のボーナスが付きます。当サイトは暗号資産のみを受け付けます:TRC20ネットワーク上のUSDT、またはBaseネットワーク上のUSDC。詳細は料金ページをご覧ください。
SillyTavern に設定する
試用を試すことにした場合、接続は1分で完了します。API 接続で「Chat Completion」を選択し、次に「Custom (OpenAI-compatible)」ソースを選択して、以下を入力してください:
- エンドポイント:
https://api.nsfwwan.cc/v1 - API キー:アカウントページからのキー
- モデルID:
uncensored
SillyTavernに組み込む前にキーを確認するには、標準的なOpenAI SDKを使用した小さなPythonテストを実行してください:
from openai import OpenAI
client = OpenAI(
base_url="https://api.nsfwwan.cc/v1",
api_key="YOUR_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a sarcastic innkeeper in a fantasy town."},
{"role": "user", "content": "Any rooms left tonight?"},
],
max_tokens=150,
)
print(reply.choices[0].message.content)
ストリーミングやツール呼び出しを含むさらに多くの例は、クイックスタートにあります。
公平なテストを実行する
フォーラムの意見は、他人のカード、他人の好み、他人の設定に関するものです。自分の短いテストで決着をつける方が、別のスレッドを読むよりも早いです。
- よく知るキャラクターを 1 人選び、常に実行すべき 5 つのことを書き出します。例えば、口癖や秘密を明かさないことなど。
- 静かな会話、論争、長いアクションシーン、そして静かな感情の機微をカバーする10のオープニングメッセージを作成してください。
- 同じ温度設定と応答長で、各バックエンドで10メッセージすべてを実行します。
- 各応答を4つの項目で採点します:キャラクターの声が維持されたか、モデルが以前の情報を覚えているか、拒否または免責事項を追加したか、次のメッセージを誘うフックで終了したか。
スコアを単純な表にまとめましょう。バックエンドごとに10メッセージというサンプル数は少ないため、負荷によって品質が変動する共有ホストでは、2日目に再実行してください。口調で勝っても信頼性に劣る場合、それはあなたがどの利用習慣を重視するかを示しています。
ホストに尋ねるべき質問
サーバーは誰が運営しているか?プロンプトは保存されるか、どのくらい?トレーニングに使用されるか?どのコンテンツルールが適用されるか?制限を超えた場合は?当方では、プロンプトはトレーニングに使用されないこと、制限は公開されていること(トライアルキーは同時2件・1分あたり60件、フルキーは8・300)、失敗または拒否されたリクエストにはコストがかからないことが検証可能です。その他については、フォーラムのまとめを信じるのではなく、料金ページと利用規約をお読みください。
賢明な選択方法
- ハードウェアと忍耐に合う無料のルートから始めてください。
- あなたがイライラするものをメモしてください:キュー、拒否、情報の忘却、ダウンタイム。
- もしそれが本当に迷惑であれば、$0.50のトライアルを使って同じテストシーンで試し、比較してください。
- 継続する場合は、最低$20をチャージし、実際の使用量を確認するために1週間
X-Balance-USDレスポンスヘッダーを監視してください。
多くの人は混在して使用します:素早い実験にはローカルモデル、長く一貫性のあるセッションには有料API。ここではロイヤルティテストはありません。
