PL ▾
Pobierz klucz API

Open WebUI: API Anthropic vs model bez cenzury

Zaktualizowano

Open WebUI obsługuje wiele połączeń z modelami jednocześnie, więc nie musisz wybierać jednego dostawcy na stałe. Ta strona opisuje dodawanie modelu Anthropic, dodawanie naszego obok niego oraz wybór modelu dla każdej rozmowy.

Panel sterowania z dwoma połączeniami zasilającymi jedno okno czatu, ilustrujący dwa zaplecza modelowe w jednym interfejsie

Kluczowe punkty

  1. Open WebUI komunikuje się z endpointami kompatybilnymi z OpenAI; nasze API wymaga tylko URL, klucza i ID modelu uncensored.
  2. Dla modeli Anthropic postępuj zgodnie z aktualną dokumentacją Open WebUI i Anthropic, ponieważ metoda połączenia należy do nich i może ulec zmianie.
  3. Użyj modelu Anthropic do zadań zgodnych z jego zasadami, a modelu bez cenzury do legalnej literatury dla dorosłych, której nie wygeneruje.
  4. Nasze stawki to $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych; prompt o 3000 tokenach i odpowiedź o 500 tokenach kosztuje $0.0007.

Dwa połączenia, jeden interfejs

Jeśli szukałeś „open webui anthropic api”, prawdopodobnie chcesz używać modeli Claude w tym samym oknie czatu, którego używasz do wszystkiego innego. To działa i nie wyklucza innych zaplecz. Open WebUI pozwala dodać więcej niż jedno połączenie i wybrać model z rozwijanej listy na początku każdej rozmowy. Rzeczywiste pytanie brzmi więc nie „Anthropic czy coś innego”, ale „który model do jakiego zadania”.

Ta strona robi trzy rzeczy. Pokazuje, jak podłączyć endpoint kompatybilny z OpenAI, używając naszego jako przykładu. Opisuje, jak modele Anthropic wpisują się w Open WebUI na ogólnym poziomie, nie pretendując do zastąpienia ich dokumentacji. I podaje prostą zasadę decyzyjną, kiedy sięgnąć po każde z nich, z dokładnie obliczonym kosztem po naszej stronie.

Łączenie modeli Anthropic

Nie obsługujemy API Anthropic i nie podamy jego cen ani limitów. Sprawdź ich dokumentację i swoje konto, aby uzyskać aktualne dane. Można jednak bezpiecznie opisać, jak elementy się ze sobą łączą.

Natywny typ połączenia Open WebUI używa formatu OpenAI chat completions. Anthropic publikuje własne natywne API, a w chwili pisania tego tekstu istnieją dwie powszechne metody dodawania ich modeli: funkcja lub potok społecznościowy zainstalowany w Open WebUI, lub trasa kompatybilności z formatem OpenAI udokumentowana przez Anthropic. Obie metody zmieniają się z czasem, więc otwórz aktualną dokumentację połączeń Open WebUI oraz aktualną dokumentację kompatybilności Anthropic i zastosuj się do obecnych zaleceń.

Bez względu na wybraną trasę, trzymaj klucz Anthropic oddzielnie od innych kluczy i ustaw limit wydatków w swoim koncie Anthropic, jeśli jest taka opcja. Modele frontowe w chmurze stosują własne polityki treści do każdego zapytania, więc przeczytaj je przed planowaniem pracy twórczej.

Dodawanie endpointu kompatybilnego z OpenAI

Ta część jest prosta, ponieważ jest to typ połączenia, wokół którego zbudowano Open WebUI. W ustawieniach administracyjnych otwórz Połączenia, dodaj nowe połączenie API OpenAI i wpisz:

  • URL: https://api.nsfwwan.cc/v1
  • Klucz: Twój klucz API

Zapisz, a lista modeli odświeża się przez wywołanie GET /v1/models. Powinnaś zobaczyć uncensored. Etykiety różnią się nieznacznie między wydania Open WebUI, ale pola to zawsze URL i klucz.

Jeśli uruchamiasz Open WebUI przez Docker, możesz podać połączenie przez zmienne środowiskowe:

docker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL="https://api.nsfwwan.cc/v1" \
  -e OPENAI_API_KEY="YOUR_KEY" \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

Zanim to zrobisz, potwierdź działanie klucza z terminala. Pokaże to też nagłówki, na których będziesz polegać później:

curl -i https://api.nsfwwan.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}],"max_tokens":30}'

Szukaj nagłówka X-Balance-USD w odpowiedzi. Pokazuje on pozostały kredyt. Aby uzyskać klucz, użyj strony klucza; nowi użytkownicy mogą tam aktywować $0.50 kredytu próbnego jednym kliknięciem, ważny przez 7 dni i bez podawania danych karty.

Który model do jakiego zadania

ZadanieLepsze dopasowanie
Przegląd kodu, analiza długich dokumentów, staranne rozumowanieModel Anthropic, jeśli jego jakość jest tym, czego potrzebujesz
Wszystko, gdzie potrzebujesz znanego modelu dostawcy ze względu na zgodność lub spójnośćTen dostawca, bezpośrednio
Proza, roleplay i czaty towarzyskie dla dorosłych w celach legalnych, których odmawiają mainstreamowe modeleEndpoint bez cenzury
Wysokowoluminowe szkice, gdzie liczy się cena za tokenPorównaj aktualne ceny, a następnie przetestuj oba na swoich promptach
Obrazy, audio, embeddingiŻaden z nich; nasze API jest tylko tekstowe

Jesteśmy małą usługą tekstową. Nasz model to jeden model o otwartych wagach obsługiwany przez niezależnego dostawcę, dostrojony tak, aby unikać odmów treści. Nie jest to model Anthropic i nie rości sobie pretensji, że dorównuje mu jakością we wszystkich zadaniach. Jeśli Claude pasuje do Twojej pracy i jej zasad, użyj go. Endpoint bez cenzury służy do przypadków, w których odmowa zatrzymuje pracę.

Jedna reguła po naszej stronie pozostaje stała: brak treści seksualnych z udziałem nieletnich, niezależnie od kontekstu.

Praktycznym wzorcem jest utrzymanie modelu Anthropic jako domyślnego do codziennej pracy i przełączanie się na model bez cenzury tylko wtedy, gdy zaczynasz sesję twórczą. To utrzymuje koszty przewidywalnymi, ponieważ płacisz naszą stawkę za tokeny tylko za czaty, które tego potrzebują. Utrzymuje też porządek w historii, ponieważ czaty z prozą i czaty służbowe żyją w oddzielnych wątkach z wyraźnie różnymi nazwami modeli. Jeśli później stwierdzisz, że jedno zaplecze pokrywa wszystkie Twoje potrzeby, usunięcie drugiego połączenia zajmie minutę i nic nie stracisz.

Koszt strony bez cenzury

Nasza cena to $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych, rozliczana z przedpłaconego kredytu. Nieudane lub odrzucone zapytania nie są rozliczane, a kredyt nigdy nie wygasa. Dwa przykłady w Open WebUI:

Krótka wiadomość czatu

Prompt o 3000 tokenach (tekst systemowy plus historia) i odpowiedź o 500 tokenach:

  • Wejście: 3000 / 1000000 x $0.15 = $0.00045
  • Wyjście: 500 / 1 000 000 x $0,50 = $0,00025
  • Suma: $0.0007

Tysiąc takich kosztuje $0.70.

Długi dokument w oknie kontekstu

Prześlij rękopis o objętości 60 000 tokenów i poproś o krytykę na 1 000 tokenów. Koszt inputu to 60 000 / 1 000 000 x $0,15 = $0,009, koszt outputu to 1 000 / 1 000 000 x $0,50 = $0,0005, razem $0,0095. Okno kontekstu wynosi 100 000 tokenów na prompt i odpowiedź, więc to się mieści, ale pytania dodatkowe ponownie przesyłają dokument za każdym razem i każde kosztuje około tyle samo. Funkcja pobierania danych w Open WebUI może przesyłać tylko odpowiednie fragmenty, co zmniejsza ten koszt.

Doładowania wynoszą od $20 do $500 w pełnych dolarach, z bonusem +5% od $50, +10% od $100 i +15% od $200. Ta strona przyjmuje tylko kryptowaluty, używając USDT w sieci TRC20 lub USDC na Base. Zobacz stronę z cenami.

Jeśli połączenie nie działa

Większość awarii sprowadza się do kilku przyczyn, które możesz wykluczyć jedna po drugiej.

  1. URL. Musi kończyć się na /v1. Nie dodawaj /chat/completions samodzielnie, ponieważ Open WebUI dodaje potrzebną ścieżkę. Brak /v1 lub podwójna ścieżka powodują błąd nie znaleziono.
  2. Klucz. Wklej go bez spacji ani cudzysłowów. Odpowiedź 401 oznacza odrzucenie klucza, a świeża kopia ze strony konta to rozwiązuje.
  3. Lista modeli. Jeśli lista jest pusta, uruchom sprawdzenie GET /v1/models z terminala. Jeśli curl działa, a Open WebUI nie, problem leży w formularzu połączenia, a nie w usłudze.
  4. Weryfikacja. Niektóre wersje Open WebUI mają przycisk weryfikacji obok połączenia. Użyj go po każdej edycji zamiast rozpoczynania czatu do testu.
  5. Długie odpowiedzi, które kończą się przedwcześnie. Sprawdź ustawienie maksymalnej liczby tokenów w kontrolkach czatu. Same API nie wymaga takiego limitu, a generowanie tekstu może wykorzystać resztę z 100 000 tokenów w oknie kontekstu.

Kontaktując się z pomocą techniczną, podaj nagłówek odpowiedzi X-Request-Id. Identyfikuje on konkretne zapytanie po naszej stronie i oszczędza rundę pytań.

Praktyczne wskazówki dotyczące uruchomienia obu

  • Nadawaj nazwy modelom. W Open WebUI możesz zmieniać nazwy i opisy modeli w panelu administracyjnym, dzięki czemu lista rozwijalna będzie jasno wskazywać, który model jest który.
  • Trzymaj prompty systemowe osobno. Prompt dostosowany do jednego modelu może brzmieć dziwnie dla innego. Twórz osobne ustawienia dla każdego modelu.
  • Nie przełączaj modeli w trakcie czatu przy pracy z danymi wrażliwymi. Każdy model widzi całą historię. Wybierz backend przed wklejeniem czegokolwiek prywatnego.
  • Zwracaj uwagę na współbieżność. Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę; klucz próbny pozwala na 2 i 60. Jeśli kilku użytkowników dzieli jedno Open WebUI, błąd 429 z kodem concurrency oznacza, że otwartych jest zbyt wiele strumieni. Błąd 429 z nagłówkiem Retry-After: 5 oznacza tymczasowe przeciążenie, więc spróbuj ponownie za chwilę.
  • Strumieniowanie działa. Przy włączonym strumieniowaniu ostatni fragment zawiera informacje o zużyciu, co pomaga śledzić wydatki.

Prompty wysyłane do naszego API nie są używane do trenowania. Więcej szczegółów na temat parametrów i wywoływania funkcji znajdziesz w poradniku szybkiego startu.

Pytania i odpowiedzi

Czy Open WebUI może bezpośrednio korzystać z API Anthropic?

Open WebUI dokumentuje obsługiwane sposoby dodawania modeli Anthropic, np. przez funkcje lub trasę kompatybilnościową. Sprawdź jego aktualną dokumentację oraz dokumentację Anthropic, ponieważ metody te mogą ulec zmianie.

Jakiego ID modelu użyć dla twojego endpointu?

Użyj uncensored. Base URL to https://api.nsfwwan.cc/v1, a uwierzytelnianie odbywa się kluczem Bearer.

Czy mogę utrzymać aktywne oba połączenia jednocześnie?

Tak. Open WebUI wyświetla modele ze wszystkich połączeń w jednej liście rozwijanej, więc możesz wybierać model dla każdego czatu osobno.

Czy oferujesz modele Anthropic?

Nie. Oferujemy jeden model o otwartych wagach uruchamiany przez niezależnego dostawcę. Nie jesteśmy API Anthropic ani routerem między różnymi dostawcami.

Czy jest sposób, żeby przetestować bez płacenia?

Nowi użytkownicy mogą jednorazowo, jednym kliknięciem na stronie klucza, odebrać $0,50 kredytu próbnego. Trwa on 7 dni, nie wymaga podawania danych do płatności i przysługuje jednej osobie.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API