Dwa połączenia, jeden interfejs
Jeśli szukałeś „open webui anthropic api”, prawdopodobnie chcesz używać modeli Claude w tym samym oknie czatu, którego używasz do wszystkiego innego. To działa i nie wyklucza innych zaplecz. Open WebUI pozwala dodać więcej niż jedno połączenie i wybrać model z rozwijanej listy na początku każdej rozmowy. Rzeczywiste pytanie brzmi więc nie „Anthropic czy coś innego”, ale „który model do jakiego zadania”.
Ta strona robi trzy rzeczy. Pokazuje, jak podłączyć endpoint kompatybilny z OpenAI, używając naszego jako przykładu. Opisuje, jak modele Anthropic wpisują się w Open WebUI na ogólnym poziomie, nie pretendując do zastąpienia ich dokumentacji. I podaje prostą zasadę decyzyjną, kiedy sięgnąć po każde z nich, z dokładnie obliczonym kosztem po naszej stronie.
Łączenie modeli Anthropic
Nie obsługujemy API Anthropic i nie podamy jego cen ani limitów. Sprawdź ich dokumentację i swoje konto, aby uzyskać aktualne dane. Można jednak bezpiecznie opisać, jak elementy się ze sobą łączą.
Natywny typ połączenia Open WebUI używa formatu OpenAI chat completions. Anthropic publikuje własne natywne API, a w chwili pisania tego tekstu istnieją dwie powszechne metody dodawania ich modeli: funkcja lub potok społecznościowy zainstalowany w Open WebUI, lub trasa kompatybilności z formatem OpenAI udokumentowana przez Anthropic. Obie metody zmieniają się z czasem, więc otwórz aktualną dokumentację połączeń Open WebUI oraz aktualną dokumentację kompatybilności Anthropic i zastosuj się do obecnych zaleceń.
Bez względu na wybraną trasę, trzymaj klucz Anthropic oddzielnie od innych kluczy i ustaw limit wydatków w swoim koncie Anthropic, jeśli jest taka opcja. Modele frontowe w chmurze stosują własne polityki treści do każdego zapytania, więc przeczytaj je przed planowaniem pracy twórczej.
Dodawanie endpointu kompatybilnego z OpenAI
Ta część jest prosta, ponieważ jest to typ połączenia, wokół którego zbudowano Open WebUI. W ustawieniach administracyjnych otwórz Połączenia, dodaj nowe połączenie API OpenAI i wpisz:
- URL:
https://api.nsfwwan.cc/v1 - Klucz: Twój klucz API
Zapisz, a lista modeli odświeża się przez wywołanie GET /v1/models. Powinnaś zobaczyć uncensored. Etykiety różnią się nieznacznie między wydania Open WebUI, ale pola to zawsze URL i klucz.
Jeśli uruchamiasz Open WebUI przez Docker, możesz podać połączenie przez zmienne środowiskowe:
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL="https://api.nsfwwan.cc/v1" \
-e OPENAI_API_KEY="YOUR_KEY" \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:main
Zanim to zrobisz, potwierdź działanie klucza z terminala. Pokaże to też nagłówki, na których będziesz polegać później:
curl -i https://api.nsfwwan.cc/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}],"max_tokens":30}'
Szukaj nagłówka X-Balance-USD w odpowiedzi. Pokazuje on pozostały kredyt. Aby uzyskać klucz, użyj strony klucza; nowi użytkownicy mogą tam aktywować $0.50 kredytu próbnego jednym kliknięciem, ważny przez 7 dni i bez podawania danych karty.
Który model do jakiego zadania
| Zadanie | Lepsze dopasowanie |
|---|---|
| Przegląd kodu, analiza długich dokumentów, staranne rozumowanie | Model Anthropic, jeśli jego jakość jest tym, czego potrzebujesz |
| Wszystko, gdzie potrzebujesz znanego modelu dostawcy ze względu na zgodność lub spójność | Ten dostawca, bezpośrednio |
| Proza, roleplay i czaty towarzyskie dla dorosłych w celach legalnych, których odmawiają mainstreamowe modele | Endpoint bez cenzury |
| Wysokowoluminowe szkice, gdzie liczy się cena za token | Porównaj aktualne ceny, a następnie przetestuj oba na swoich promptach |
| Obrazy, audio, embeddingi | Żaden z nich; nasze API jest tylko tekstowe |
Jesteśmy małą usługą tekstową. Nasz model to jeden model o otwartych wagach obsługiwany przez niezależnego dostawcę, dostrojony tak, aby unikać odmów treści. Nie jest to model Anthropic i nie rości sobie pretensji, że dorównuje mu jakością we wszystkich zadaniach. Jeśli Claude pasuje do Twojej pracy i jej zasad, użyj go. Endpoint bez cenzury służy do przypadków, w których odmowa zatrzymuje pracę.
Jedna reguła po naszej stronie pozostaje stała: brak treści seksualnych z udziałem nieletnich, niezależnie od kontekstu.
Praktycznym wzorcem jest utrzymanie modelu Anthropic jako domyślnego do codziennej pracy i przełączanie się na model bez cenzury tylko wtedy, gdy zaczynasz sesję twórczą. To utrzymuje koszty przewidywalnymi, ponieważ płacisz naszą stawkę za tokeny tylko za czaty, które tego potrzebują. Utrzymuje też porządek w historii, ponieważ czaty z prozą i czaty służbowe żyją w oddzielnych wątkach z wyraźnie różnymi nazwami modeli. Jeśli później stwierdzisz, że jedno zaplecze pokrywa wszystkie Twoje potrzeby, usunięcie drugiego połączenia zajmie minutę i nic nie stracisz.
Koszt strony bez cenzury
Nasza cena to $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych, rozliczana z przedpłaconego kredytu. Nieudane lub odrzucone zapytania nie są rozliczane, a kredyt nigdy nie wygasa. Dwa przykłady w Open WebUI:
Krótka wiadomość czatu
Prompt o 3000 tokenach (tekst systemowy plus historia) i odpowiedź o 500 tokenach:
- Wejście: 3000 / 1000000 x $0.15 = $0.00045
- Wyjście: 500 / 1 000 000 x $0,50 = $0,00025
- Suma: $0.0007
Tysiąc takich kosztuje $0.70.
Długi dokument w oknie kontekstu
Prześlij rękopis o objętości 60 000 tokenów i poproś o krytykę na 1 000 tokenów. Koszt inputu to 60 000 / 1 000 000 x $0,15 = $0,009, koszt outputu to 1 000 / 1 000 000 x $0,50 = $0,0005, razem $0,0095. Okno kontekstu wynosi 100 000 tokenów na prompt i odpowiedź, więc to się mieści, ale pytania dodatkowe ponownie przesyłają dokument za każdym razem i każde kosztuje około tyle samo. Funkcja pobierania danych w Open WebUI może przesyłać tylko odpowiednie fragmenty, co zmniejsza ten koszt.
Doładowania wynoszą od $20 do $500 w pełnych dolarach, z bonusem +5% od $50, +10% od $100 i +15% od $200. Ta strona przyjmuje tylko kryptowaluty, używając USDT w sieci TRC20 lub USDC na Base. Zobacz stronę z cenami.
Jeśli połączenie nie działa
Większość awarii sprowadza się do kilku przyczyn, które możesz wykluczyć jedna po drugiej.
- URL. Musi kończyć się na
/v1. Nie dodawaj/chat/completionssamodzielnie, ponieważ Open WebUI dodaje potrzebną ścieżkę. Brak/v1lub podwójna ścieżka powodują błąd nie znaleziono. - Klucz. Wklej go bez spacji ani cudzysłowów. Odpowiedź 401 oznacza odrzucenie klucza, a świeża kopia ze strony konta to rozwiązuje.
- Lista modeli. Jeśli lista jest pusta, uruchom sprawdzenie
GET /v1/modelsz terminala. Jeśli curl działa, a Open WebUI nie, problem leży w formularzu połączenia, a nie w usłudze. - Weryfikacja. Niektóre wersje Open WebUI mają przycisk weryfikacji obok połączenia. Użyj go po każdej edycji zamiast rozpoczynania czatu do testu.
- Długie odpowiedzi, które kończą się przedwcześnie. Sprawdź ustawienie maksymalnej liczby tokenów w kontrolkach czatu. Same API nie wymaga takiego limitu, a generowanie tekstu może wykorzystać resztę z 100 000 tokenów w oknie kontekstu.
Kontaktując się z pomocą techniczną, podaj nagłówek odpowiedzi X-Request-Id. Identyfikuje on konkretne zapytanie po naszej stronie i oszczędza rundę pytań.
Praktyczne wskazówki dotyczące uruchomienia obu
- Nadawaj nazwy modelom. W Open WebUI możesz zmieniać nazwy i opisy modeli w panelu administracyjnym, dzięki czemu lista rozwijalna będzie jasno wskazywać, który model jest który.
- Trzymaj prompty systemowe osobno. Prompt dostosowany do jednego modelu może brzmieć dziwnie dla innego. Twórz osobne ustawienia dla każdego modelu.
- Nie przełączaj modeli w trakcie czatu przy pracy z danymi wrażliwymi. Każdy model widzi całą historię. Wybierz backend przed wklejeniem czegokolwiek prywatnego.
- Zwracaj uwagę na współbieżność. Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę; klucz próbny pozwala na 2 i 60. Jeśli kilku użytkowników dzieli jedno Open WebUI, błąd 429 z kodem
concurrencyoznacza, że otwartych jest zbyt wiele strumieni. Błąd 429 z nagłówkiemRetry-After: 5oznacza tymczasowe przeciążenie, więc spróbuj ponownie za chwilę. - Strumieniowanie działa. Przy włączonym strumieniowaniu ostatni fragment zawiera informacje o zużyciu, co pomaga śledzić wydatki.
Prompty wysyłane do naszego API nie są używane do trenowania. Więcej szczegółów na temat parametrów i wywoływania funkcji znajdziesz w poradniku szybkiego startu.
