KO ▾
API 키 받기

SillyTavern 무료 API 레딧 스레드: 솔직한 옵션

업데이트됨

무료는 정당한 바람이며, 일부 무료 경로는 사용할 가치가 있습니다. 이 페이지는 실제 비용을 기준으로 분류한 후, 소액 선불 API가 적합한 지점을 보여줍니다.

채팅 백엔드 구축을 위한 세 가지 경로: 로컬 컴퓨터, 무료 클라우드 티어, 선불 크레딧. 아이소메트릭 객체로 표시됨

주요 포인트

  1. 무료 SillyTavern 백엔드는 로컬 모델, 무료 호스팅 티어, 커뮤니티 엔드포인트 세 그룹으로 나뉩니다. 각각은 서로 다른 형태의 비용(시간, 전력 등)으로 자체 비용을 감당합니다.
  2. 당사의 API는 무료가 아닙니다. $0.50 체험금이 있으며, 토큰 100만 개당 $0.15 및 $0.50의 토큰 기반 요금이 적용됩니다.
  3. 메시지당 입력 4,000 토큰, 출력 250 토큰 기준 메시지 하나당 $0.000725가 들며, 한 달 6,000개 메시지는 약 $4.35가 듭니다.
  4. 하드웨어가 있거나 인내심이 있다면 먼저 무료 경로를 시도하고 제한이 방해가 될 때 선불 크레딧으로 전환하세요.

SillyTavern을 위한 진정한 무료 API가 있나요?

sillytavern free api reddit 검색에서 나타나는 스레드는 동일한 조언을 반복하며, 그 중 대부분은 한 가지 측면에서 타당합니다. 대형 모델을 실행해 주는 것은 운영 비용이 무료가 아니므로 누군가가 어딘가에서 비용을 지불합니다. 때로는 그 누군가가 당신이며, 자신의 GPU와 전기로 비용을 지불합니다. 때로는 무료 티어를 광고로 여기는 회사이며, 때로는 청구서가 쌓이기 전까지 서버 시간을 기부하는 취미 생활자입니다.

따라서 유용한 질문은 무료가 존재하는지 여부가 아닙니다. 존재합니다. 질문은 하드웨어, 신뢰성, 프라이버시, 콘텐츠 자유 또는 저녁 시간을 대가로 무엇을 포기하는지입니다. 이 페이지는 각 경로를 차례로 다루고 당사 API의 위치를 명확히 하며 선택을 당신에게 맡깁니다. 당사는 유료 서비스를 운영하므로 이 점을 고려해 판단하세요.

세 가지 무료 유형

1. 자신의 머신에서 모델 실행

KoboldCpp, Ollama, text-generation-webui와 같은 도구는 오픈 가중치 모델을 로컬에 로드하며, SillyTavern은 이에 연결할 수 있습니다. 설정 후 각 메시지에는 전력 비용만 듭니다. 대화 내용은 컴퓨터를 벗어나지 않으며, 이용약관이 일방적으로 변경되지 않습니다.

비용은 하드웨어와 조정 작업입니다. 모델 품질은 크기에 따라 달라지며, 대형 모델은 많은 비디오 메모리가 필요합니다. 작은 양자화 모델은 저사양 GPU에서도 실행되지만, 긴 장면의 기억력이 약하고 캐릭터가 평평하게 느껴질 수 있습니다. 모델 카드를 읽고 양자화 수준을 선택하며 샘플러를 조정하는 것은 그 자체로 하나의 취미입니다.

2. 호스팅 서비스의 무료 티어

일부 제공자는 요청 또는 토큰의 무료 할당량을 제공합니다. 시작하기 가장 쉽습니다: 로그인하고 키를 붙여넣기만 하면 됩니다. 단점은 할당량, 모델 및 규칙이 변경되며 그 변경은 귀하의 일정이 아닌 제공자의 일정에 따라 발표된다는 점입니다. 일부 무료 티어는 성인 주제의 소설에 중요할 수 있는 제공자의 자체 콘텐츠 규칙을 적용할 수 있습니다. 습관을 들이기 전에 제공자의 현재 약관을 항상 확인하세요.

3. 커뮤니티 및 기부 엔드포인트

레딧 및 디스코드 커뮤니티는 때로 자원봉사자가 운영하는 엔드포인트를 공유합니다. 훌륭할 수도 있고 하루아침에 사라질 수도 있습니다. 거기에 입력한 모든 것은 운영자에게 공개되므로 신뢰할 수 없는 프록시를 통해 비밀번호를 재사용하거나 개인 정보를 보내지 마세요.

무료가 드리는 비용 비교

라우트비용비용 지불 수단주요 위험
로컬 모델하드웨어 및 전력설정 시간, VRAM 제한작은 모델, 긴 문맥 기억력 약함
무료 호스팅 티어제한 내 무료할당량, 대기열, 제공자 규칙약관 변경, 콘텐츠 필터
커뮤니티 엔드포인트없음낯선 이에게 대한 신뢰소멸, 프라이버시 불명확
선불 API (당사)토큰 100만 개당 $0.15 / $0.50크레딧충전 필요; 이 사이트에서는 암호화폐만 허용

이 중 어느 것도 잘못되지 않았습니다. 좋은 게임용 GPU를 가진 학생은 로컬로 시작하는 것이 좋습니다. 저녁 시간 동안 한 캐릭터를 사용해 보고 싶은 사람은 무료 티어를 사용할 수 있습니다. 유료 경로는 무료가 사용 방식에 충분히 신뢰할 수 없게 되는 지점까지 가는 것입니다.

당사 API의 위치

무료가 아니며, 그렇게 부르지 않습니다. 다음은 이 API의 특징입니다: 독립 제공자가 운영하며 합법적인 성인 사용에 콘텐츠 거부 없이 답변하도록 조정된 하나의 오픈 가중치 모델을 제공하는 OpenAI 호환 텍스트 API입니다. 선불 크레딧에서 토큰 단위 요금을 지불합니다. 실패하거나 거부된 요청은 요금이 부과되지 않으며 크레딧은 만료되지 않고 구독이 없습니다.

새로운 사용자는 Google 또는 이메일과 비밀번호로 회원가입한 후 API 키 페이지에서 한 번의 클릭으로 $0.50 체험용 크레딧을 수령할 수 있습니다. 결제가 필요 없으며, 7일 동안 유효하고 사용자당 하나만 제한됩니다. 체험용 키는 동시 요청 2개와 분당 60개의 요청을 허용하며, 단일 채팅에 충분합니다.

그 체험은 정직한 비교 도구입니다. 로컬 모델이나 무료 티어에서 사용한 장면과 동일한 장면으로 평소 캐릭터를 실행하고 차이가 중요한지 결정하세요. 차이가 중요하지 않다면 손실은 없습니다.

두 가지 제한이 모든 사용에 적용됩니다. 모델은 텍스트 전용이므로 이미지, 오디오 또는 임베딩이 없습니다. 그리고 미성년자가 관련된 성 콘텐츠는 절대 허용되지 않습니다.

$0.50 및 $20이 실제로 구매하는 것

SillyTavern에서 중간 크기의 메시지를 예로 들면: 4,000 입력 토큰(카드, 설정 및 최근 기록)과 250 토큰의 응답입니다.

  • 입력: 4,000 / 1,000,000 x $0.15 = $0.0006
  • 출력: 250 / 1,000,000 x $0.50 = $0.000125
  • 합계: 메시지당 $0.000725

$0.50 체험금은 약 689개의 메시지를 커버합니다($0.50 / $0.000725 ≈ 689). $20 충전은 약 27,000개의 메시지를 커버합니다. 월간 지출을 위해 하루 200개의 메시지를 30일 동안 보내는 중사용자를 가정합니다. 이는 6,000개의 메시지로, 6,000 x $0.000725 = $4.35입니다.

긴 컨텍스트는 비용을 높입니다. 20,000 입력 토큰과 동일한 250 토큰 응답의 경우, 메시지는 입력에 대해 20,000 / 1,000,000 x $0.15 = $0.003, 출력에 대해 $0.000125가 들어 총 $0.003125가 듭니다. 동일한 6,000개의 메시지는 $18.75가 듭니다. SillyTavern에서 최대 100,000 토큰 창을 항상 사용하는 대신 컨텍스트 크기를 선택하여 이를 제어할 수 있습니다.

충전금은 $20부터 $500까지의 전체 금액이며, $50부터 +5%, $100부터 +10%, $200부터 +15% 보너스가 제공됩니다. 이 사이트는 암호화폐만 받습니다: TRC20의 USDT 또는 Base의 USDC. 가격 책정 페이지에 전체 내역이 있습니다.

SillyTavern에 설정

체험판을 사용해 보기로 결정하면 연결에는 1분이 걸립니다. API 연결에서 채팅 완료를 선택한 다음 Custom (OpenAI-compatible) 소스를 선택하고 다음을 입력하세요:

  • 엔드포인트: https://api.nsfwwan.cc/v1
  • API 키: 계정 페이지의 키
  • 모델 ID: uncensored

SillyTavern에 포함하기 전에 키를 확인하려면 표준 OpenAI SDK로 작은 Python 테스트를 실행하세요:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.nsfwwan.cc/v1",
    api_key="YOUR_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a sarcastic innkeeper in a fantasy town."},
        {"role": "user", "content": "Any rooms left tonight?"},
    ],
    max_tokens=150,
)
print(reply.choices[0].message.content)

스트리밍 및 함수 호출을 포함한 더 많은 예제는 빠른 시작에 있습니다.

공정한 테스트 실행

포럼의 의견은 다른 사람의 카드, 다른 사람의 취향 및 다른 사람의 설정에 관한 것입니다. 짧은 테스트는 다른 스레드보다 더 빠르게 결론을 내립니다.

  1. 잘 아는 캐릭터 하나를 선택하고 항상 수행해야 하는 다섯 가지 사항을 기록하세요. 예를 들어 말버릇이나 비밀을 밝히지 않는 것 등.
  2. 차분한 대화, 논쟁, 긴 액션 장면, 조용한 감정적 순간을 다루는 열 개의 시작 메시지를 작성하세요.
  3. 각 백엔드에서 동일한 temperature와 동일한 응답 길이로 모두 10개를 실행합니다.
  4. 각 응답을 네 가지 기준으로 평가합니다: 캐릭터가 목소리를 유지했는지, 모델이 이전 세부 정보를 기억했는지, 거부하거나 면책 조항을 추가했는지, 그리고 다음 메시지를 유도하는 후크로 끝났는지.

점수를 일반 표에 유지합니다. 백엔드당 10개의 메시지는 작은 표본이므로, 공유 무료 호스트의 품질은 부하에 따라 변경될 수 있으므로 두 번째 날에도 다시 실행합니다. 백엔드가 목소리에서는 승리하지만 신뢰성에서는 패배한다면, 당신이 더 중요하게 여기는 자신의 습관이 무엇인지 알려줍니다.

모든 호스트에 물어볼 질문

서버는 누가 운영합니까? 프롬프트는 보관되며, 얼마나 오래 보관됩니까? 학습에 사용됩니까? 어떤 콘텐츠 규칙이 적용됩니까? 제한을 초과하면 어떻게 됩니까? 당사 측에서 검증할 수 있는 답변은 프롬프트가 학습에 사용되지 않으며, 제한이 공개되어 있다는 것입니다(체험용 키는 동시 2개 및 분당 60개, 전체 키는 동시 8개 및 분당 300개), 거부되거나 실패한 요청은 비용이 들지 않습니다. 기타 사항에 대해서는 포럼 요약에 의존하기보다 가격 책정 페이지과 약관을 읽으십시오.

현명한 선택 방법

  1. 하드웨어와 인내심에 맞는 무료 경로로 시작하세요.
  2. 당신을 귀찮게 하는 것을 기록하세요: 대기열, 거부, 잊혀진 세부 사항, 다운타임.
  3. 이러한 성가심이 실제라면 $0.50 체험금을 동일한 테스트 장면에서 사용하고 비교하십시오.
  4. 계속 사용한다면 최소 $20를 충전하고 일주일 동안 X-Balance-USD 응답 헤더를 관찰하여 실제 사용량을 확인하세요.

많은 사람들이 혼합하여 사용합니다: 빠른 실험을 위한 로컬 모델, 길고 일관된 세션을 원할 때 유료 API. 여기서는 충성심 테스트가 없습니다.

질문과 답변

SillyTavern을 위한 API가 무료인가요?

아니요. 신규 사용자는 7일 동안 유효한 일회성 $0.50 시험용 크레딧을 받으며, 이후 선불 크레딧에서 토큰당 요금을 지불합니다. 구독은 없습니다.

무료 체험 크레딧을 위해 결제 정보를 제공해야 하나요?

아니요. 무료 체험 크레딧은 가입 후 API 키 페이지에서 한 번의 클릭으로 청구하며 결제 정보가 필요하지 않습니다. 한 사람당 하나만 제한됩니다.

롤플레이 한 달 비용은 얼마인가요?

메시지당 입력 토큰 4,000개와 출력 토큰 250개로, 6,000개의 메시지는 약 $4.35가 듭니다. 더 긴 프롬프트는 더 많은 비용이 들므로 실제 금액은 컨텍스트 크기에 따라 달라집니다.

크레딧은 어떻게 충전하나요?

이 사이트에서는 충전이 암호화폐로만 가능하며, TRC20의 USDT 또는 Base의 USDC를 사용합니다. 금액은 $20부터 $500까지입니다.

제 프롬프트가 모델 학습에 사용되나요?

아니요. 프롬프트는 학습에 사용되지 않습니다.

키는 양식 하나만 채우면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.

API 키 받기