SillyTavern을 위한 진정한 무료 API가 있나요?
sillytavern free api reddit 검색에서 나타나는 스레드는 동일한 조언을 반복하며, 그 중 대부분은 한 가지 측면에서 타당합니다. 대형 모델을 실행해 주는 것은 운영 비용이 무료가 아니므로 누군가가 어딘가에서 비용을 지불합니다. 때로는 그 누군가가 당신이며, 자신의 GPU와 전기로 비용을 지불합니다. 때로는 무료 티어를 광고로 여기는 회사이며, 때로는 청구서가 쌓이기 전까지 서버 시간을 기부하는 취미 생활자입니다.
따라서 유용한 질문은 무료가 존재하는지 여부가 아닙니다. 존재합니다. 질문은 하드웨어, 신뢰성, 프라이버시, 콘텐츠 자유 또는 저녁 시간을 대가로 무엇을 포기하는지입니다. 이 페이지는 각 경로를 차례로 다루고 당사 API의 위치를 명확히 하며 선택을 당신에게 맡깁니다. 당사는 유료 서비스를 운영하므로 이 점을 고려해 판단하세요.
세 가지 무료 유형
1. 자신의 머신에서 모델 실행
KoboldCpp, Ollama, text-generation-webui와 같은 도구는 오픈 가중치 모델을 로컬에 로드하며, SillyTavern은 이에 연결할 수 있습니다. 설정 후 각 메시지에는 전력 비용만 듭니다. 대화 내용은 컴퓨터를 벗어나지 않으며, 이용약관이 일방적으로 변경되지 않습니다.
비용은 하드웨어와 조정 작업입니다. 모델 품질은 크기에 따라 달라지며, 대형 모델은 많은 비디오 메모리가 필요합니다. 작은 양자화 모델은 저사양 GPU에서도 실행되지만, 긴 장면의 기억력이 약하고 캐릭터가 평평하게 느껴질 수 있습니다. 모델 카드를 읽고 양자화 수준을 선택하며 샘플러를 조정하는 것은 그 자체로 하나의 취미입니다.
2. 호스팅 서비스의 무료 티어
일부 제공자는 요청 또는 토큰의 무료 할당량을 제공합니다. 시작하기 가장 쉽습니다: 로그인하고 키를 붙여넣기만 하면 됩니다. 단점은 할당량, 모델 및 규칙이 변경되며 그 변경은 귀하의 일정이 아닌 제공자의 일정에 따라 발표된다는 점입니다. 일부 무료 티어는 성인 주제의 소설에 중요할 수 있는 제공자의 자체 콘텐츠 규칙을 적용할 수 있습니다. 습관을 들이기 전에 제공자의 현재 약관을 항상 확인하세요.
3. 커뮤니티 및 기부 엔드포인트
레딧 및 디스코드 커뮤니티는 때로 자원봉사자가 운영하는 엔드포인트를 공유합니다. 훌륭할 수도 있고 하루아침에 사라질 수도 있습니다. 거기에 입력한 모든 것은 운영자에게 공개되므로 신뢰할 수 없는 프록시를 통해 비밀번호를 재사용하거나 개인 정보를 보내지 마세요.
무료가 드리는 비용 비교
| 라우트 | 비용 | 비용 지불 수단 | 주요 위험 |
|---|---|---|---|
| 로컬 모델 | 하드웨어 및 전력 | 설정 시간, VRAM 제한 | 작은 모델, 긴 문맥 기억력 약함 |
| 무료 호스팅 티어 | 제한 내 무료 | 할당량, 대기열, 제공자 규칙 | 약관 변경, 콘텐츠 필터 |
| 커뮤니티 엔드포인트 | 없음 | 낯선 이에게 대한 신뢰 | 소멸, 프라이버시 불명확 |
| 선불 API (당사) | 토큰 100만 개당 $0.15 / $0.50 | 크레딧 | 충전 필요; 이 사이트에서는 암호화폐만 허용 |
이 중 어느 것도 잘못되지 않았습니다. 좋은 게임용 GPU를 가진 학생은 로컬로 시작하는 것이 좋습니다. 저녁 시간 동안 한 캐릭터를 사용해 보고 싶은 사람은 무료 티어를 사용할 수 있습니다. 유료 경로는 무료가 사용 방식에 충분히 신뢰할 수 없게 되는 지점까지 가는 것입니다.
당사 API의 위치
무료가 아니며, 그렇게 부르지 않습니다. 다음은 이 API의 특징입니다: 독립 제공자가 운영하며 합법적인 성인 사용에 콘텐츠 거부 없이 답변하도록 조정된 하나의 오픈 가중치 모델을 제공하는 OpenAI 호환 텍스트 API입니다. 선불 크레딧에서 토큰 단위 요금을 지불합니다. 실패하거나 거부된 요청은 요금이 부과되지 않으며 크레딧은 만료되지 않고 구독이 없습니다.
새로운 사용자는 Google 또는 이메일과 비밀번호로 회원가입한 후 API 키 페이지에서 한 번의 클릭으로 $0.50 체험용 크레딧을 수령할 수 있습니다. 결제가 필요 없으며, 7일 동안 유효하고 사용자당 하나만 제한됩니다. 체험용 키는 동시 요청 2개와 분당 60개의 요청을 허용하며, 단일 채팅에 충분합니다.
그 체험은 정직한 비교 도구입니다. 로컬 모델이나 무료 티어에서 사용한 장면과 동일한 장면으로 평소 캐릭터를 실행하고 차이가 중요한지 결정하세요. 차이가 중요하지 않다면 손실은 없습니다.
두 가지 제한이 모든 사용에 적용됩니다. 모델은 텍스트 전용이므로 이미지, 오디오 또는 임베딩이 없습니다. 그리고 미성년자가 관련된 성 콘텐츠는 절대 허용되지 않습니다.
$0.50 및 $20이 실제로 구매하는 것
SillyTavern에서 중간 크기의 메시지를 예로 들면: 4,000 입력 토큰(카드, 설정 및 최근 기록)과 250 토큰의 응답입니다.
- 입력: 4,000 / 1,000,000 x $0.15 = $0.0006
- 출력: 250 / 1,000,000 x $0.50 = $0.000125
- 합계: 메시지당 $0.000725
$0.50 체험금은 약 689개의 메시지를 커버합니다($0.50 / $0.000725 ≈ 689). $20 충전은 약 27,000개의 메시지를 커버합니다. 월간 지출을 위해 하루 200개의 메시지를 30일 동안 보내는 중사용자를 가정합니다. 이는 6,000개의 메시지로, 6,000 x $0.000725 = $4.35입니다.
긴 컨텍스트는 비용을 높입니다. 20,000 입력 토큰과 동일한 250 토큰 응답의 경우, 메시지는 입력에 대해 20,000 / 1,000,000 x $0.15 = $0.003, 출력에 대해 $0.000125가 들어 총 $0.003125가 듭니다. 동일한 6,000개의 메시지는 $18.75가 듭니다. SillyTavern에서 최대 100,000 토큰 창을 항상 사용하는 대신 컨텍스트 크기를 선택하여 이를 제어할 수 있습니다.
충전금은 $20부터 $500까지의 전체 금액이며, $50부터 +5%, $100부터 +10%, $200부터 +15% 보너스가 제공됩니다. 이 사이트는 암호화폐만 받습니다: TRC20의 USDT 또는 Base의 USDC. 가격 책정 페이지에 전체 내역이 있습니다.
SillyTavern에 설정
체험판을 사용해 보기로 결정하면 연결에는 1분이 걸립니다. API 연결에서 채팅 완료를 선택한 다음 Custom (OpenAI-compatible) 소스를 선택하고 다음을 입력하세요:
- 엔드포인트:
https://api.nsfwwan.cc/v1 - API 키: 계정 페이지의 키
- 모델 ID:
uncensored
SillyTavern에 포함하기 전에 키를 확인하려면 표준 OpenAI SDK로 작은 Python 테스트를 실행하세요:
from openai import OpenAI
client = OpenAI(
base_url="https://api.nsfwwan.cc/v1",
api_key="YOUR_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a sarcastic innkeeper in a fantasy town."},
{"role": "user", "content": "Any rooms left tonight?"},
],
max_tokens=150,
)
print(reply.choices[0].message.content)
스트리밍 및 함수 호출을 포함한 더 많은 예제는 빠른 시작에 있습니다.
공정한 테스트 실행
포럼의 의견은 다른 사람의 카드, 다른 사람의 취향 및 다른 사람의 설정에 관한 것입니다. 짧은 테스트는 다른 스레드보다 더 빠르게 결론을 내립니다.
- 잘 아는 캐릭터 하나를 선택하고 항상 수행해야 하는 다섯 가지 사항을 기록하세요. 예를 들어 말버릇이나 비밀을 밝히지 않는 것 등.
- 차분한 대화, 논쟁, 긴 액션 장면, 조용한 감정적 순간을 다루는 열 개의 시작 메시지를 작성하세요.
- 각 백엔드에서 동일한 temperature와 동일한 응답 길이로 모두 10개를 실행합니다.
- 각 응답을 네 가지 기준으로 평가합니다: 캐릭터가 목소리를 유지했는지, 모델이 이전 세부 정보를 기억했는지, 거부하거나 면책 조항을 추가했는지, 그리고 다음 메시지를 유도하는 후크로 끝났는지.
점수를 일반 표에 유지합니다. 백엔드당 10개의 메시지는 작은 표본이므로, 공유 무료 호스트의 품질은 부하에 따라 변경될 수 있으므로 두 번째 날에도 다시 실행합니다. 백엔드가 목소리에서는 승리하지만 신뢰성에서는 패배한다면, 당신이 더 중요하게 여기는 자신의 습관이 무엇인지 알려줍니다.
모든 호스트에 물어볼 질문
서버는 누가 운영합니까? 프롬프트는 보관되며, 얼마나 오래 보관됩니까? 학습에 사용됩니까? 어떤 콘텐츠 규칙이 적용됩니까? 제한을 초과하면 어떻게 됩니까? 당사 측에서 검증할 수 있는 답변은 프롬프트가 학습에 사용되지 않으며, 제한이 공개되어 있다는 것입니다(체험용 키는 동시 2개 및 분당 60개, 전체 키는 동시 8개 및 분당 300개), 거부되거나 실패한 요청은 비용이 들지 않습니다. 기타 사항에 대해서는 포럼 요약에 의존하기보다 가격 책정 페이지과 약관을 읽으십시오.
현명한 선택 방법
- 하드웨어와 인내심에 맞는 무료 경로로 시작하세요.
- 당신을 귀찮게 하는 것을 기록하세요: 대기열, 거부, 잊혀진 세부 사항, 다운타임.
- 이러한 성가심이 실제라면 $0.50 체험금을 동일한 테스트 장면에서 사용하고 비교하십시오.
- 계속 사용한다면 최소 $20를 충전하고 일주일 동안
X-Balance-USD응답 헤더를 관찰하여 실제 사용량을 확인하세요.
많은 사람들이 혼합하여 사용합니다: 빠른 실험을 위한 로컬 모델, 길고 일관된 세션을 원할 때 유료 API. 여기서는 충성심 테스트가 없습니다.
