Czy istnieje w pełni darmowe API dla SillyTavern?
Wątki pojawiające się w wynikach wyszukiwania „sillytavern free api reddit” powtarzają tę samą poradę, która w jednym aspekcie się sprawdza: nic, co uruchamia za Ciebie duży model, nie jest darmowe w utrzymaniu, więc ktoś gdzieś płaci. Czasami jesteś tym kimś, wykorzystując własną kartę GPU i prąd. Czasami jest to firma traktująca darmowy poziom jako reklamę, a czasami hobbysta, który przekazuje czas serwera, dopóki rachunek nie zacznie ciążyć.
Więc użytecznym pytaniem nie jest to, czy darmowe istnieje. Istnieje. Pytanie brzmi: z czego rezygnujesz w zamian: sprzęt, niezawodność, prywatność, wolność treści czy Twój wieczór. Ta strona omawia każdą ścieżkę po kolei, jasno mówi, gdzie znajduje się nasze API, i pozostawia wybór Tobie. Oferujemy płatną usługę, więc oceń naszą opinię z tym na uwadze.
Trzy rodzaje darmowych
1. Uruchom model na własnej maszynie
Narzędzia takie jak KoboldCpp, Ollama i text-generation-webui ładują modele o otwartych wagach lokalnie, a SillyTavern może się do nich podłączyć. Po konfiguracji każda wiadomość nie kosztuje nic poza prądem. Twoje czaty nie opuszczają komputera, a nikt nie może zmienić warunków.
Koszt to sprzęt i majsterkowanie. Jakość modelu rośnie wraz z jego wielkością, a duże modele wymagają dużo pamięci wideo. Mniejsze modele kwantyzowane działają na skromnych GPU, ale zauważysz słabszą pamięć długich scen i płaskie postaci. Czytanie kart modeli, dobór poziomów kwantyzacji i strojenie samplerów to osobne hobby.
2. Darmowe poziomy usług hostowanych
Niektórzy dostawcy oferują darmowy limit zapytań lub tokenów. To najłatwiejszy sposób na start: zaloguj się, wklej klucz. Pułapka polega na tym, że limity, modele i zasady się zmieniają, a te zmiany ogłaszane są w ich harmonogramie, nie w Twoim. Niektóre darmowe poziomy mogą stosować własne zasady dotyczące treści dostawcy, co ma znaczenie dla fikcji z motywami dla dorosłych. Zawsze sprawdź aktualne warunki dostawcy przed wyrobieniem sobie nawyku.
3. Endpointy społecznościowe i darowizny
Społeczności na Reddit i Discord czasami udostępniają endpointy prowadzone przez wolontariuszy. Mogą być wspaniałe, ale mogą zniknąć w mgnieniu oka. Traktuj wszystko, co tam wpiszesz, jako widoczne dla operatora i nigdy nie używaj tego samego hasła ani nie wysyłaj danych osobowych przez proxy, którego nie możesz zweryfikować.
Co kosztuje darmowe API, obok siebie
| Trasa | Koszt | Płacisz | Główne ryzyko |
|---|---|---|---|
| Model lokalny | Sprzęt i energia | Czas konfiguracji, limity VRAM | Mniejsze modele, słabsza pamięć długich scen |
| Darmowy plan hostowany | Brak, w ramach limitów | Kwoty, kolejki, zasady dostawcy | Zmiana warunków, filtry treści |
| Endpoint społeczności | Brak | Zaufanie do obcego | Zniknięcie, nieznana prywatność |
| API z przedpłaconym kredytem (nasze) | $0,15 / $0,50 za 1 mln tokenów | Kredyt | Musisz doładować; na tej stronie tylko kryptowaluty |
Żadna z tych opcji nie jest zła. Student z dobrą kartą graficzną powinien prawdopodobnie zacząć lokalnie. Ktoś, kto chce przetestować jedną postać na wieczór, może użyć dowolnego darmowego poziomu. Płatna ścieżka jest dla momentu, w którym darmowe przestaje być wystarczająco niezawodne dla sposobu, w jaki z niego korzystasz.
Gdzie pasuje nasze API
Nie jest darmowe i nie będziemy tego ukrywać. Oto czym jest: API tekstowe kompatybilne z OpenAI obsługujące jeden model o otwartych wagach, prowadzone przez niezależnego dostawcę i dostrojone do odpowiadania bez odmów treści dla prawnego użytku dorosłych. Płacisz za tokeny z przedpłaconego kredytu. Nieudane lub odrzucone zapytania nie są rozliczane, kredyt nigdy nie wygasa, a subskrypcji nie ma.
Nowi użytkownicy mogą zabrać $0,50 kredytu próbnego jednym kliknięciem na stronie klucza API po zalogowaniu się przez Google lub e-mail i hasło. Nie wymaga płatności, trwa 7 dni i jest ograniczony do jednego na osobę. Klucz próbny pozwala na 2 równoległe zapytania i 60 zapytań na minutę, co wystarcza dla jednego czatu.
Ta próba jest uczciwym narzędziem do porównania. Uruchom swoją zwykłą postać przez tę samą scenę, której używałeś na modelu lokalnym lub darmowym poziomie, i zdecyduj, czy różnica ma dla Ciebie znaczenie. Jeśli nie, nic nie tracisz.
Obowiązują dwa limity. Model jest tylko tekstowy, więc nie ma obrazów, audio ani embeddingów. A treść seksualna z udziałem nieletnich nigdy nie jest dozwolona.
Co naprawdę kupują $0,50 i $20
Weź wiadomość średniej wielkości w SillyTavern: 4000 tokenów wejściowych (karta, lore i niedawna historia) i odpowiedź 250 tokenów.
- Wejście: 4000 / 1 000 000 x $0,15 = $0,0006
- Wyjście: 250 / 1 000 000 x $0,50 = $0,000125
- Razem: $0,000725 za wiadomość
Kredyt próbny $0,50 obejmuje około 689 takich wiadomości, ponieważ $0,50 / $0,000725 to około 689. Doładowanie $20 obejmuje około 27 000. Przy miesięcznych wydatkach załóżmy, że ciężki użytkownik wysyła 200 wiadomości dziennie przez 30 dni. To 6000 wiadomości, a 6000 x $0,000725 = $4,35.
Dłuższy kontekst podnosi tę kwotę. Przy 20 000 tokenach wejściowych i tej samej odpowiedzi 250 tokenów wiadomość kosztuje 20 000 / 1 000 000 x $0,15 = $0,003 za wejście plus $0,000125 za wyjście, czyli $0,003125. Te same 6000 wiadomości wyniosłoby $18,75. Ty kontrolujesz to, wybierając rozmiar okna kontekstu w SillyTavern zamiast zawsze używać maksymalnego okna 100 000 tokenów.
Doładowania to dowolna kwota całkowita od $20 do $500, z bonusem +5% od $50, +10% od $100 i +15% od $200. Ta strona akceptuje tylko kryptowaluty: USDT w sieci TRC20 lub USDC na Base. Na stronie z cenami znajdziesz pełny rozkład.
Skonfiguruj w SillyTavern
Jeśli zdecydujesz się przetestować próbę, połączenie zajmie minutę. W Połączeniach API wybierz Chat Completion, a następnie źródło Custom (compatible with OpenAI), i wypełnij:
- Endpoint:
https://api.nsfwwan.cc/v1 - Klucz API: klucz ze strony konta
- Identyfikator modelu:
uncensored
Aby sprawdzić klucz przed zaangażowaniem SillyTavern, uruchom mały test Pythona ze standardowym SDK OpenAI:
from openai import OpenAI
client = OpenAI(
base_url="https://api.nsfwwan.cc/v1",
api_key="YOUR_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a sarcastic innkeeper in a fantasy town."},
{"role": "user", "content": "Any rooms left tonight?"},
],
max_tokens=150,
)
print(reply.choices[0].message.content)
Więcej przykładów, w tym strumieniowanie i wywoływanie narzędzi, znajdziesz w poradniku szybkiego startu.
Uruchom uczciwy test
Opinie na forum dotyczą kart kogoś innego, gustu kogoś innego i ustawień kogoś innego. Krótki test własny rozstrzyga to szybciej niż kolejny wątek.
- Wybierz jedną postać, którą dobrze znasz, i wypisz pięć rzeczy, które powinna zawsze robić, na przykład nawyk werbalny lub odmowę ujawnienia sekretu.
- Napisz dziesięć początkowych wiadomości, które obejmują spokojną rozmowę, kłótnię, długą scenę akcji i cichy moment emocjonalny.
- Uruchom wszystkie dziesięć na każdym backendzie z tą samą temperaturą i tą samą długością odpowiedzi.
- Oceniaj każdą odpowiedź na czterech punktach: czy postać zachowała głos, czy model zapamiętał wcześniejsze szczegóły, czy odrzucił lub dodał zastrzeżenie, i czy zakończyła się haczykiem zachęcającym do kolejnej wiadomości.
Zapisz oceny w prostej tabeli. Dziesięć wiadomości na backend to mała próbka, więc powtórz test w drugim dniu, ponieważ jakość na wspólnych darmowych hostach może się zmieniać w zależności od obciążenia. Jeśli backend wygrywa pod względem głosu, ale przegrywa pod względem niezawodności, mówi Ci to, które z Twoich własnych nawyków cenisz bardziej.
Pytania do każdego hosta
Kto obsługuje serwery? Czy prompty są przechowywane i przez jaki czas? Czy są wykorzystywane do trenowania? Jakie zasady dotyczące treści obowiązują? Co się dzieje, gdy przekroczysz limit? Po naszej stronie odpowiedzi, które możesz zweryfikować, to że prompty nie są wykorzystywane do trenowania, limity są opublikowane (2 równoległe i 60 na minutę dla kluczy próbnych, 8 i 300 dla kluczy pełnych), a odrzucone lub nieudane zapytanie nic nie kosztuje. W przypadku pozostałych informacji przeczytaj stronę z cenami i regulamin, a nie polegaj na streszczeniu z forum.
Rozsądny sposób na wybór
- Zacznij od dowolnej darmowej ścieżki, która pasuje do Twojego sprzętu i cierpliwości.
- Zauważ, co Cię irytuje: kolejki, odrzucenia, zapomniane szczegóły, przestoje.
- Jeśli irytacja jest realna, wydaj $0,50 na tę samą scenę testową i porównaj.
- Jeśli zostajesz, doładuj minimum $20 i obserwuj nagłówek odpowiedzi
X-Balance-USDprzez tydzień, aby zobaczyć swoje rzeczywiste zużycie.
Wielu ludzi kończy na mieszaniu: lokalny model do szybkich eksperymentów, płatne API, gdy chcą długich, spójnych sesji. Nie ma tu testu lojalności.
