SillyTavern için gerçekten ücretsiz bir API var mı?
sillytavern free api reddit aramaları altında çıkan konular genellikle aynı tavsiyeleri tekrar eder ve çoğu bir açıdan geçerlidir: sizin için büyük bir model çalıştıran hiçbir şey işletmek için ücretsiz değildir, yani birileri bir yerlerde ödeme yapıyor. Bazen bu kişi sizsiniz, kendi GPU'nuz ve elektrik maliyetleri üzerinden. Bazen bu, ücretsiz katmanı reklam olarak gören bir şirkettir ve bazen de fatura eski hale gelene kadar sunucu süresi bağışlayan bir hobicidir.
Yani faydalı soru ücretsizin var olup olmadığı değil. Vardır. Soru, karşılığında neyi feda ettiğinizdir: donanım, güvenilirlik, gizlilik, içerik özgürlüğü veya akşamınız. Bu sayfa her yolu tek tek ele alır, API'mizin nerede durduğunu açıkça söyler ve seçimi size bırakır. Ücretli bir hizmet sunuyoruz, bu nedenle görüşümüzü bunu göz önünde bulundurarak değerlendirin.
Ücretsiz olanın üç türü
1. Modeli kendi makinenizde çalıştırın
KoboldCpp, Ollama ve text-generation-webui gibi araçlar açık ağırlıklı modelleri yerel olarak yükler ve SillyTavern bunlara bağlanabilir. Kurulumdan sonra her mesaj, güç dışında hiçbir şeye mal olmaz. Sohbetleriniz bilgisayardan hiç ayrılmaz ve kimse size kuralları değiştiremez.
Maliyet donanım ve uğraştır. Model kalitesi boyutla ölçeklenir ve büyük modeller çok fazla video belleği gerektirir. Daha küçük kuantize edilmiş modeller mütevazı GPU'larda çalışır ancak uzun sahnelerin hafızasında zayıflama ve karakterlerin düzleşmesi fark edersiniz. Model kartlarını okumak, kuantizasyon seviyelerini seçmek ve örnekleme ayarlarını yapmak başlı başına bir hobidir.
2. Barındırılan hizmetlerden ücretsiz katmanlar
Bazı sağlayıcılar istek veya token cinsinden bir kota sunar. Bunlar başlamak için en kolay olanlardır: kaydolun, bir anahtarı yapıştırın. Püf noktası, kotaların, modellerin ve kuralların değişmesidir ve bu değişiklikler sizin zamanınızda değil, onların programında duyurulur. Bazı ücretsiz katmanlar, yetişkin temalı kurgu için önemli olabilecek sağlayıcının kendi içerik kurallarını uygulayabilir. Bir alışkanlık edinmeden önce bir sağlayıcının güncel şartlarını her zaman kontrol edin.
3. Topluluk ve bağışlanan uç noktalar
Reddit ve Discord toplulukları bazen gönüllüler tarafından yürütülen uç noktaları paylaşır. Harika olabilirler ve bir gecede kaybolabilirler. Oraya yazdığınız her şeyi operatör için görünür olarak kabul edin ve denetleyemediğiniz bir vekil üzerinden bir şifreyi yeniden kullanmayın veya kişisel bilgiler göndermeyin.
Ücretsizin size neye mal olduğu, yan yana
| Yönlendirme | Para | Şununla ödersiniz | Ana risk |
|---|---|---|---|
| Yerel model | Donanım ve güç | Kurulum süresi, VRAM sınırları | Daha küçük modeller, zayıf uzun sahne hafızası |
| Ücretsiz barındırılan katman | Sınırlar içinde yok | Kotalar, kuyruklar, sağlayıcı kuralları | Koşullar değişir, içerik filtreleri |
| Topluluk uç noktası | Yok | Yabancıya güven | Kaybolur, gizlilik bilinmiyor |
| Ön ödemeli API (bizimki) | 1M token başına $0,15 / $0,50 | Kredi | Bakiye yüklemeniz gerekir; bu sitede yalnızca kripto |
Bunların hiçbiri yanlış değil. İyi bir oyun GPU'su olan bir öğrenci muhtemelen yerel olarak başlamalıdır. Bir akşam boyunca bir karakter denemek isteyen herhangi biri herhangi bir ücretsiz katman kullanabilir. Ödemeli yol, ücretsizin kullandığınız şekilde yeterince güvenilir olmaktan çıktığı noktadadır.
API'mizin nereye oturduğu
Ücretsiz değil ve buna öyle demeyeceğiz. İşte bu: bağımsız bir sağlayıcı tarafından çalıştırılan ve yasal yetişkin kullanımı için içerik reddi olmadan yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı modele hizmet eden OpenAI uyumlu bir metin API'sidir. Ön ödemeli krediden token başına ödeme yaparsınız. Başarısız veya reddedilen istekler için ücret alınmaz, kredi hiç sona ermez ve abonelik yoktur.
Yeni kullanıcılar, Google veya e-posta ve şifre ile kayıt olduktan sonra API anahtarı sayfasında tek tıkla $0.50 deneme kredisi talep edebilir. Ödeme gerektirmez, 7 gün sürer ve kişi başı bir tanesiyle sınırlıdır. Deneme anahtarı 2 eşzamanlı istek ve dakikada 60 istek izni verir, bu tek bir sohbet için yeterlidir.
Bu deneme dürüst bir karşılaştırma aracıdır. Karakterinizi yerel bir modelde veya ücretsiz bir katmanda kullandığınız aynı sahneye çalıştırın ve farkın sizin için önemli olup olmadığına karar verin. Önemli değilse, hiçbir şey kaybetmezsiniz.
Tüm kullanımlar için iki limit geçerlidir. Model yalnızca metin içindir, bu nedenle resim, ses veya gömme yoktur. Ve reşit olmayanlar içeren cinsel içerik asla izin verilmez.
$0.50 ve $20'nin aslında ne satın aldığını
SillyTavern'de orta boyutlu bir mesaj alın: 4.000 giriş token (karakter kartı, lore ve yakın geçmiş) ve 250 token'lık bir yanıt.
- Giriş: 4.000 / 1.000.000 x $0,15 = $0,0006
- Çıkış: 250 / 1.000.000 x $0,50 = $0,000125
- Toplam: mesaj başına $0,000725
$0.50 deneme kredisi yaklaşık 689 böyle mesajı kapsar, çünkü $0,50 / $0,000725 yaklaşık 689'dır. $20 bakiye yükleme yaklaşık 27.000'i kapsar. Aylık harcama için, günde 200 mesaj gönderen yoğun bir kullanıcıyı varsayın. Bu 30 gün için 6.000 mesajdır ve 6.000 x $0,000725 = $4,35'tir.
Daha uzun bağlam, bu rakamı artırır. 20.000 giriş token ve aynı 250 token'lık yanıt ile bir mesaj, giriş için 20.000 / 1.000.000 x $0,15 = $0,003 ve çıkış için $0,000125'e mal olur, yani $0,003125 eder. Aynı 6.000 mesaj $18,75'e mal olur. Bunu SillyTavern'de maksimum 100.000 token penceresini her zaman kullanmak yerine bir bağlam boyutu seçerek kontrol edersiniz.
Bakiye yükleme $20 ile $500 arasında herhangi bir tam tutardır, $50'den +%5 bonus, $100'den +%10 ve $200'den +%15 bonus içerir. Bu site yalnızca kripto kabul eder: TRC20 üzerinde USDT veya Base üzerinde USDC. fiyatlandırma sayfası tam ayrıntıları içerir.
SillyTavern'de kurulum
Denemeyi test etmeye karar verirseniz, bağlantı bir dakika sürer. API Bağlantıları'nda Chat Completion'ı seçin, ardından Özel (OpenAI uyumlu) kaynağı seçin ve şunları doldurun:
- Uç nokta:
https://api.nsfwwan.cc/v1 - API anahtarı: hesap sayfanızdaki anahtar
- Model Kimliği:
uncensored
Anahtarı SillyTavern'i dahil etmeden önce kontrol etmek için standart OpenAI SDK ile küçük bir Python testi çalıştırın:
from openai import OpenAI
client = OpenAI(
base_url="https://api.nsfwwan.cc/v1",
api_key="YOUR_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a sarcastic innkeeper in a fantasy town."},
{"role": "user", "content": "Any rooms left tonight?"},
],
max_tokens=150,
)
print(reply.choices[0].message.content)
Akış ve fonksiyon çağırma dahil daha fazla örnek, hızlı başlangıç sayfasında bulunmaktadır.
Adil bir test yapın
Bir forumdaki görüşler başkalarının kartları, başkalarının zevki ve başkalarının ayarları hakkındadır. Kendi kısa testiniz başka bir diziden daha hızlı olarak bunu çözer.
- İyi bildiğiniz bir karakter seçin ve her zaman yapması gereken beş şeyi yazın, örneğin bir sözlü alışkanlık veya bir sırrı ifşa etmemek.
- Sakin sohbet, bir tartışma, uzun bir aksiyon sahnesi ve sakin bir duygusal anı kapsayan on adet açılış mesajı yazın.
- Tüm on mesajı, aynı sıcaklık ayarı ve aynı yanıt uzunluğu ile her bir arka uçta çalıştırın.
- Her yanıtı dört puanla değerlendirin: karakter sesini korudu mu, model önceki detayları hatırladı mı, reddetti mi veya bir açıklama ekledi mi ve bir sonraki mesajınızı davet eden bir kancayla mı bitti.
Puanları düz bir tabloda tutun. Backend başına on mesaj küçük bir örnektir, bu nedenle kalite ortak ücretsiz sunucularda yükleme ile değişebileceğinden, ikinci bir günde çalışmayı tekrarlayın. Bir backend ses kalitesinde kazanır ancak güvenilirlikte kaybederse, bu hangi kendi alışkanlıklarınızı daha çok değerli kıldığınızı gösterir.
Herhangi bir sunucuya sorulacak sorular
Sunucuları kim yönetiyor? İstemler saklanıyor mu ve ne kadar süre? Eğitim için mi kullanılıyorlar? Hangi içerik kuralları geçerli? Bir limite ulaştığınızda ne olur? Bizim tarafımızda doğrulayabileceğiniz yanıtlar şunlardır: istemler eğitim için kullanılmaz, limitler yayımlanmıştır (deneme anahtarları için 2 eşzamanlı ve dakika başına 60, tam anahtarlar için 8 ve 300) ve reddedilen veya başarısız bir istek hiçbir şeye mal olmaz. Başka her şey için bir forum özetine güvenmek yerine fiyatlama sayfasını ve şartları okuyun.
Seçim için mantıklı bir yol
- Donanımınıza ve sabrınıza uyan ücretsiz yoldan başlayın.
- Sizi rahatsız eden şeyleri not edin: kuyruklar, reddiyeler, unutulmuş detaylar, kesinti.
- Eğer rahatsızlık gerçekse, aynı test sahnesi için $0.50'lık denemeyi harcayın ve karşılaştırın.
- Kalırsanız, minimum $20'yi yükleyin ve gerçek kullanımınızı görmek için bir hafta boyunca
X-Balance-USDyanıt başlığını izleyin.
Birçok kişi karışık bir yol izler: hızlı deneyler için yerel bir model, uzun ve tutarlı oturumlar istediğinde ücretli bir API. Burada bir sadakat testi yok.
