Существует ли полностью бесплатное API для SillyTavern?
Треды, которые появляются в поиске «sillytavern free api reddit», как правило, повторяют одни и те же советы, и большинство из них верно в одном отношении: ничего, что запускает большую модель за вас, не является бесплатным в эксплуатации, поэтому кто-то платит где-то. Иногда этот кто-то — вы, через свою GPU и электричество. Иногда это компания, которая рассматривает бесплатный тариф как рекламу, а иногда это энтузиаст, который жертвует время сервера, пока ему не надоест оплачивать счета.
Поэтому полезный вопрос не в том, существует ли бесплатное. Оно существует. Вопрос в том, чем вы жертвуете в обмен: оборудованием, надежностью, приватностью, свободой контента или своим вечером. На этой странице мы последовательно разберем каждый вариант, честно скажем, где находится наше API, и оставим выбор за вами. Мы предоставляем платную услугу, поэтому учитывайте это при оценке нашего мнения.
Три вида бесплатного
1. Запуск модели на собственном компьютере
Инструменты вроде KoboldCpp, Ollama и text-generation-webui загружают модели с открытыми весами локально, и SillyTavern может подключиться к ним. После настройки каждое сообщение обходится только в электроэнергию. Ваши чаты никогда не покидают компьютер, и никто не может изменить условия в одностороннем порядке.
Расходы — это железо и возня. Качество модели масштабируется с размером, а большим моделям нужно много видеопамяти. Меньшие квантованные модели работают на скромных GPU, но вы заметите худшее удержание контекста длинных сцен и менее выразительных персонажей. Чтение карточек моделей, выбор уровней квантования и настройка сэмплеров — это отдельное хобби.
2. Бесплатные тарифы хостинг-провайдеров
Некоторые провайдеры предлагают бесплатную квоту запросов или токенов. Это самый простой способ начать: зарегистрируйтесь, вставьте ключ. Подвох в том, что лимиты, модели и правила меняются, и эти изменения анонсируются по их графику, а не вашему. Некоторые бесплатные тарифы могут применять собственные правила контента провайдера, что может быть важно для художественных текстов на взрослые темы. Всегда проверяйте текущие условия провайдера, прежде чем строить привычку вокруг него.
3. Сообщества и пожертвованные эндпоинты
Сообщества Reddit и Discord иногда делятся эндпоинтами, запущенными волонтерами. Они могут быть замечательными, а могут исчезнуть за ночь. Относитесь ко всему, что вы там вводите, как к видимому для оператора, и никогда не используйте один и тот же пароль или не отправляйте личные данные через прокси, которому вы не доверяете.
Сколько стоит бесплатное, бок о бок
| Маршрут | Деньги | Вы платите | Основной риск |
|---|---|---|---|
| Локальная модель | Оборудование и питание | Время настройки, ограничения VRAM | Меньшие модели, слабая память длинных сцен |
| Бесплатный размещённый тариф | Нет, в пределах лимитов | Квоты, очереди, правила провайдера | Изменение условий, фильтры контента |
| Эндпоинт сообщества | Нет | Доверие незнакомцу | Исчезает, приватность неизвестна |
| Предоплаченное API (наше) | $0,15 / $0,50 за 1 млн токенов | Баланс | Необходимо пополнение; на этом сайте только криптовалюта |
Ни один из этих вариантов не является ошибочным. Студенту с хорошей игровой видеокартой, вероятно, стоит начать с локального запуска. Тому, кто хочет попробовать одного персонажа на вечер, подойдет любой бесплатный тариф. Платный вариант нужен в тот момент, когда бесплатных вариантов перестаёт хватать по надёжности для того, как вы их используете.
Где вписывается наше API
Оно не бесплатное, и мы не будем называть его таковым. Вот что это: совместимое с OpenAI текстовое API, обслуживающее одну модель с открытыми весами, от независимого провайдера и настроенное на ответы без отказов по контенту для законного использования взрослыми. Вы платите за токены из предоплаченного баланса. Сбои или отклоненные запросы не тарифицируются, баланс не сгорает, подписки нет.
Новые пользователи могут получить $0,50 пробного баланса в один клик на странице API-ключа после регистрации через Google или по email и паролю. Для этого не нужна оплата, срок действия — 7 дней, лимит — один на пользователя. Ключ пробного периода позволяет 2 параллельных запроса и 60 запросов в минуту, чего достаточно для одного чата.
Этот пробный период — честный инструмент сравнения. Запустите вашего обычного персонажа через ту же сцену, что и на локальной модели или бесплатном тарифе, и решите, имеет ли разница значение для вас. Если нет, вы ничего не теряете.
Два ограничения действуют всегда. Модель поддерживает только текст, поэтому нет изображений, аудио или эмбеддингов. И контент сексуального характера с участием несовершеннолетних всегда запрещен.
Что на самом деле дают $0,50 и $20
Возьмём сообщение среднего размера в SillyTavern: 4 000 входных токенов (карта персонажа, лор и недавняя история) и ответ на 250 токенов.
- Вход: 4000 / 1 000 000 x $0,15 = $0,0006
- Выход: 250 / 1 000 000 x $0,50 = $0,000125
- Итого: $0.000725 за сообщение
Пробный баланс $0,50 покрывает около 689 таких сообщений, так как $0,50 / $0,000725 составляет примерно 689. Пополнение на $20 покрывает около 27 000. Для ежемесячных расходов предположим, что активный пользователь отправляет 200 сообщений в день в течение 30 дней. Это 6000 сообщений, и 6000 x $0,000725 = $4,35.
Длинный контекст увеличивает стоимость. При 20 000 входных токенах и том же ответе на 250 токенов сообщение стоит 20 000 / 1 000 000 x $0,15 = $0,003 за вход плюс $0,000125 за выход, итого $0,003125. Те же 6000 сообщений обойдутся в $18,75. Вы контролируете это, выбирая размер контекстного окна в SillyTavern, а не всегда используя максимальное окно в 100 000 токенов.
Пополнения — любая целая сумма от $20 до $500, с бонусом +5% от $50, +10% от $100 и +15% от $200. Этот сайт принимает только криптовалюту: USDT в сети TRC20 или USDC в сети Base. Полная разбивка цен доступна на странице тарифов.
Настройка в SillyTavern
Если вы решили протестировать пробный период, подключение займет минуту. В разделе API Connections выберите Chat Completion, затем источник Custom (OpenAI-compatible) и заполните:
- Эндпоинт:
https://api.nsfwwan.cc/v1 - API key: ключ из вашей учетной записи
- Идентификатор модели:
uncensored
Чтобы проверить ключ до подключения SillyTavern, запустите небольшой тест Python со стандартным SDK OpenAI:
from openai import OpenAI
client = OpenAI(
base_url="https://api.nsfwwan.cc/v1",
api_key="YOUR_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a sarcastic innkeeper in a fantasy town."},
{"role": "user", "content": "Any rooms left tonight?"},
],
max_tokens=150,
)
print(reply.choices[0].message.content)
Другие примеры, включая потоковую передачу и вызов функций, доступны в быстром старте.
Проведите честный тест
Мнения на форуме — это чужие настройки, чужой вкус и чужие параметры. Ваш собственный короткий тест решит вопрос быстрее, чем еще одна ветка обсуждения.
- Выберите одного персонажа, которого вы хорошо знаете, и запишите пять вещей, которые он всегда должен делать, например, речевую привычку или отказ раскрыть секрет.
- Напишите десять начальных сообщений, которые охватывают спокойный разговор, спор, длинную сцену действия и тихий эмоциональный момент.
- Запустите все десять на каждом бэкенде с одинаковой температурой и одинаковой длиной ответа.
- Оцените каждый ответ по четырём критериям: сохранил ли персонаж свой голос, запомнила ли модель предыдущие детали, отказалась ли она или добавила ли дисклеймер, и закончился ли ответ зацепкой, побуждающей к следующему сообщению.
Сохраните оценки в виде простой таблицы. Десять сообщений на бэкенд — это небольшая выборка, поэтому повторите запуск на второй день, так как качество на общих бесплатных хостах может меняться в зависимости от нагрузки. Если один бэкенд выигрывает по голосу, но проигрывает по надёжности, это подскажет, какие из ваших собственных привычек вы цените больше.
Вопросы, которые стоит задать любому хосту
Кто управляет серверами? Сохраняются ли промпты и как долго? Используются ли они для обучения? Какие правила контента применяются? Что происходит, когда вы превышаете лимит? С нашей стороны, ответы, которые вы можете проверить, таковы: промпты не используются для обучения, лимиты опубликованы (2 одновременных запроса и 60 в минуту на пробных ключах, 8 и 300 на полных ключах), и отклоненный или неудачный запрос ничего не стоит. Для всего остального прочитайте страницу цен и условия, а не полагайтесь на сводку из форума.
Разумный способ выбора
- Начните с любого бесплатного варианта, который подходит вашему оборудованию и терпению.
- Отмечайте то, что вас раздражает: очереди, отказы, забытые детали, простои.
- Если раздражение действительно есть, потратьте пробные $0.50 на ту же тестовую сцену и сравните.
- Если вы останетесь, пополните минимум на $20 и в течение недели наблюдайте за заголовком ответа
X-Balance-USD, чтобы увидеть реальное потребление.
Многие люди в итоге комбинируют: локальную модель для быстрых экспериментов и платный API для длинных, связных сессий. Здесь нет теста на лояльность.
