Duas conexões, uma interface
Se você pesquisou por open webui anthropic api, provavelmente quer modelos Claude dentro da mesma janela de chat que já usa para tudo. Isso funciona e não exclui outros backends. O Open WebUI permite adicionar mais de uma conexão e depois escolher o modelo em um menu suspenso no início de cada chat. Então a pergunta real não é Anthropic ou outra coisa, é qual modelo faz qual trabalho.
Esta página faz três coisas. Mostra como conectar um endpoint compatível com OpenAI, usando o nosso como exemplo prático. Descreve como os modelos Anthropic se encaixam no Open WebUI de forma geral, sem pretender substituir a documentação deles. E dá uma regra de decisão clara para quando usar cada um, com custos do nosso lado calculados exatamente.
Conectando modelos Anthropic
Não operamos a API da Anthropic e não informaremos seus preços ou limites. Consulte a documentação deles e sua conta para obter os valores atuais. O que pode ser dito com segurança é como as peças se relacionam.
O tipo de conexão nativo do Open WebUI usa o formato de chat completions da OpenAI. A Anthropic publica sua própria API nativa e, no momento da redação, há duas maneiras comuns de trazer seus modelos: uma função ou pipe instalada dentro do Open WebUI, ou uma rota de compatibilidade no formato OpenAI que a Anthropic documenta para sua API. Ambos mudam com o tempo, então abra a documentação atual de conexões do Open WebUI e a documentação atual de compatibilidade da Anthropic, e siga a recomendada hoje.
Qualquer que seja a rota, mantenha a chave Anthropic separada de todas as outras chaves e defina um limite de gastos na sua conta Anthropic se um for oferecido. Modelos de fronteira hospedados aplicam suas próprias políticas de conteúdo a cada solicitação, então leia-as antes de planejar trabalho criativo em torno delas.
Adicionando um endpoint compatível com OpenAI
Esta parte é simples porque é o tipo de conexão em torno do qual o Open WebUI foi construído. Nas configurações de administrador, abra Conexões, adicione uma nova conexão de API OpenAI e insira:
- URL:
https://api.nsfwwan.cc/v1 - Chave: sua chave de API
Salve e a lista de modelos será atualizada chamando GET /v1/models. Você deve ver uncensored aparecer. Os rótulos variam um pouco entre as versões do Open WebUI, mas os campos são sempre uma URL e uma chave.
Se você iniciar o Open WebUI com Docker, pode fornecer a conexão por meio de variáveis de ambiente:
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL="https://api.nsfwwan.cc/v1" \
-e OPENAI_API_KEY="YOUR_KEY" \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:main
Antes de fazer qualquer uma das duas coisas, confirme se a chave funciona em um terminal. Isso também mostra os cabeçalhos dos quais você dependerá mais tarde:
curl -i https://api.nsfwwan.cc/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}],"max_tokens":30}'
Procure por X-Balance-USD nos cabeçalhos da resposta. Ele mostra o crédito restante. Para obter uma chave, use a página de chave; usuários novos podem obter um crédito de teste de $0,50 lá com um clique, válido por 7 dias e sem detalhes de pagamento.
Qual modelo para qual trabalho
| Tarefa | Melhor ajuste |
|---|---|
| Revisão de código, análise de documentos longos, raciocínio cuidadoso | Um modelo Anthropic, se a qualidade for o que você precisa |
| Qualquer coisa onde você precisa de um modelo de fornecedor nomeado para conformidade ou consistência | Esse fornecedor, diretamente |
| Ficção, interpretação de papéis e chats de companhia para uso adulto lícito que modelos mainstream recusam | O endpoint sem censura |
| Rascunhos de alto volume onde o preço por token importa | Compare os preços atuais e teste ambos em seus prompts |
| Imagens, áudio, embeddings | Nenhum dos dois aqui; nossa API é apenas texto |
Somos um serviço pequeno apenas de texto. Nosso modelo é um modelo de pesos abertos executado por um provedor independente, ajustado para evitar recusas de conteúdo. Não é o modelo da Anthropic e não afirma igualá-lo em todas as tarefas. Se o Claude atende ao seu trabalho e às políticas dele, use-o. O endpoint uncensored é para os casos em que uma recusa interrompe o trabalho.
Uma regra permanece fixa do nosso lado: sem conteúdo sexual envolvendo menores de idade, independentemente da estrutura.
Um padrão prático é manter o modelo Anthropic como o padrão para o trabalho diário e alternar para o modelo uncensored apenas quando iniciar uma sessão criativa. Isso mantém os custos previsíveis, pois você paga apenas nossa taxa por token para os chats que precisam disso. Também mantém seu histórico organizado, porque chats de ficção e chats de trabalho vivem em threads separadas com nomes de modelo claramente diferentes. Se você descobrir mais tarde que um backend cobre todas as suas necessidades, remover a outra conexão leva um minuto e não perde nada.
Quanto custa o lado sem censura
Nosso preço é $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, debitados do crédito pré-pago. Requisições falhas ou recusadas não são cobradas e o crédito nunca expira. Dois exemplos no Open WebUI:
Uma mensagem de chat curta
Um prompt de 3.000 tokens (texto do sistema mais histórico) e uma resposta de 500 tokens:
- Entrada: 3.000 / 1.000.000 x $0,15 = $0,00045
- Saída: 500 / 1.000.000 x $0,50 = $0,00025
- Total: $0,0007
Mil desses custam $0,70.
Um documento longo no contexto
Envie um manuscrito de 60.000 tokens e peça uma crítica de 1.000 tokens. A entrada é 60.000 / 1.000.000 x $0,15 = $0,009, a saída é 1.000 / 1.000.000 x $0,50 = $0,0005, totalizando $0,0095. A janela é de 100.000 tokens para prompt mais resposta, então isso cabe, mas perguntas de acompanhamento reenviam o documento cada vez e cada uma custa aproximadamente o mesmo novamente. O recurso de recuperação do Open WebUI pode enviar apenas partes relevantes, o que reduz o valor.
Recargas variam de $20 a $500 em dólares inteiros com um bônus de +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Este site aceita cripto apenas, usando USDT no TRC20 ou USDC na Base. Veja a página de preços.
Se a conexão não funcionar
A maioria das falhas se resume a um punhado de causas e você pode descartá-las em ordem.
- A URL. Ela deve terminar em
/v1. Não adicione/chat/completionsvocê mesmo, porque o Open WebUI adiciona o caminho necessário. A ausência de/v1ou um caminho duplicado gera um erro de não encontrado. - A chave. Cole-a sem espaços ou aspas. Uma resposta 401 significa que a chave foi rejeitada e uma cópia fresca da sua página de conta resolve isso.
- A lista de modelos. Se o menu suspenso estiver vazio, execute a verificação
GET /v1/modelsem um terminal. Se o curl funcionar e o Open WebUI não, o problema está no formulário de conexão, não no serviço. - Verificação. Algumas versões do Open WebUI possuem um botão de verificação ao lado da conexão. Use-o após cada edição em vez de iniciar um chat para testar.
- Respostas longas que param cedo. Verifique qualquer configuração de max tokens nos controles de chat. A API em si não exige uma, e a conclusão pode usar o restante da janela de 100.000 tokens.
Ao entrar em contato com o suporte, informe o cabeçalho de resposta X-Request-Id. Ele identifica a requisição exata do nosso lado e evita uma rodada de perguntas.
Dicas práticas para usar ambos
- Nomeie seus modelos. No Open WebUI, você pode renomear e descrever modelos no painel administrativo, para que o menu suspenso deixe claro qual é qual.
- Mantenha os prompts do sistema separados. Um prompt ajustado para um modelo pode soar estranho para outro. Crie predefinições por modelo.
- Não alterne modelos no meio do chat para trabalho sensível. Cada modelo vê todo o histórico. Decida o backend antes de colar qualquer informação privada.
- Observe a concorrência. Uma chave completa permite 8 requisições simultâneas e 300 por minuto; a chave de teste permite 2 e 60. Se várias pessoas compartilham um Open WebUI, um 429 com código
concurrencysignifica que há muitas streams abertas ao mesmo tempo. Um 429 com um cabeçalhoRetry-After: 5é sobrecarga temporária, então tente novamente em breve. - O streaming funciona. Com o streaming ativado, o último fragmento inclui o uso, o que ajuda você a rastrear os gastos.
Os prompts enviados para nossa API não são usados para treinamento. Mais detalhes sobre parâmetros e chamada de funções estão no guia rápido.
