สองการเชื่อมต่อ หนึ่งอินเทอร์เฟซ
หากคุณค้นหา "open webui anthropic api" คุณน่าจะต้องการใช้โมเดล Claude ภายในหน้าต่างแชทเดียวกับที่คุณใช้ทำงานอื่น ๆ อยู่แล้ว การใช้งานนี้ทำได้ และไม่ได้ตัดความเป็นไปได้ของแบ็กเอนด์อื่น ๆ Open WebUI ช่วยให้คุณเพิ่มการเชื่อมต่อได้มากกว่าหนึ่งรายการ แล้วเลือกโมเดลจากเมนูแบบเลื่อนลงที่เริ่มต้นของแต่ละแชท ดังนั้นคำถามที่แท้จริงไม่ใช่ Anthropic หรืออย่างอื่น แต่คือโมเดลใดควรทำหน้าที่ใด
หน้านี้มีสามวัตถุประสงค์ แสดงวิธีการเชื่อมต่อเอนด์พอยต์ที่เข้ากันได้กับ OpenAI โดยใช้ของเราเป็นตัวอย่าง อธิบายภาพรวมว่าโมเดลของ Anthropic เข้ากับ Open WebUI ได้อย่างไร โดยไม่ได้ตั้งใจแทนที่เอกสารของพวกเขา และให้กฎการตัดสินใจที่ชัดเจนว่าควรใช้โมเดลใดเมื่อใด พร้อมคำนวณค่าใช้จ่ายฝั่งเราอย่างแม่นยำ
การเชื่อมต่อโมเดล Anthropic
เราไม่ได้ให้บริการ API ของ Anthropic และจะไม่ระบุราคาหรือขีดจำกัดของพวกเขา โปรดตรวจสอบเอกสารและบัญชีของคุณเพื่อดูข้อมูลล่าสุด สิ่งที่ระบุได้อย่างปลอดภัยคือความสัมพันธ์ระหว่างชิ้นส่วนต่าง ๆ
ประเภทการเชื่อมต่อแบบเนทีฟของ Open WebUI ใช้รูปแบบ chat completions ของ OpenAI Anthropicเผยแพร่ API แบบเนทีฟของตัวเอง และ ณ เวลาที่เขียนมีสองวิธีทั่วไปในการนำโมเดลของ Anthropic เข้ามา: ฟังก์ชันหรือ pipe จากชุมชนที่ติดตั้งภายใน Open WebUI หรือเส้นทางความเข้ากันได้ในรูปแบบ OpenAI ที่ Anthropic เอกสารไว้สำหรับ API ของตน ทั้งสองวิธีเปลี่ยนแปลงตลอดเวลา ดังนั้นโปรดเปิดเอกสารการเชื่อมต่อของ Open WebUI ล่าสุดและเอกสารความเข้ากันได้ของ Anthropic ล่าสุด แล้วปฏิบัติตามวิธีที่แนะนำในปัจจุบัน
ไม่ว่าคุณจะเลือกเส้นทางใด ให้แยกคีย์ Anthropic ออกจากคีย์อื่นๆ ทั้งหมด และตั้งค่าขีดจำกัดการใช้จ่ายในบัญชี Anthropic หากมีตัวเลือกนั้น โมเดลชั้นนำที่โฮสต์จะบังคับใช้นโยบายเนื้อหาของตนเองกับทุกคำขอ ดังนั้นควรอ่านนโยบายเหล่านั้นก่อนวางแผนงานสร้างสรรค์ที่เกี่ยวข้องกับโมเดล
การเชื่อมต่อเอนด์พอยต์ที่เข้ากันได้กับ OpenAI
ส่วนนี้ทำได้ง่ายเพราะเป็นประเภทการเชื่อมต่อที่ Open WebUI สร้างขึ้นมาเพื่อรองรับ ในส่วนตั้งค่าผู้ดูแลระบบ ให้เปิด Connections เพิ่มการเชื่อมต่อ OpenAI API ใหม่ แล้วกรอกข้อมูล:
- URL:
https://api.nsfwwan.cc/v1 - Key: คีย์ API ของคุณ
บันทึก และรายการโมเดลจะรีเฟรชโดยการเรียกใช้ GET /v1/models คุณควรเห็น uncensored ปรากฏขึ้น ป้ายชื่ออาจแตกต่างกันเล็กน้อยระหว่างเวอร์ชันของ Open WebUI แต่ฟิลด์จะเป็น URL และคีย์เสมอ
หากคุณเริ่มใช้งาน Open WebUI ด้วย Docker คุณสามารถระบุการเชื่อมต่อผ่านตัวแปรสภาพแวดล้อมได้:
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL="https://api.nsfwwan.cc/v1" \
-e OPENAI_API_KEY="YOUR_KEY" \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:main
ก่อนทำทั้งสองอย่าง ให้ยืนยันว่าคีย์ใช้งานได้จากเทอร์มินัล วิธีนี้ยังแสดงส่วนหัวที่คุณจะพึ่งพาในภายหลัง:
curl -i https://api.nsfwwan.cc/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}],"max_tokens":30}'
มองหา X-Balance-USD ในส่วนหัวของคำตอบ มันแสดงเครดิตที่เหลืออยู่ เพื่อรับคีย์ ให้ใช้ หน้าคีย์; ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยการคลิกหนึ่งครั้ง ใช้ได้เป็นเวลา 7 วันโดยไม่ต้องระบุรายละเอียดการชำระเงิน
โมเดลใดสำหรับหน้าที่ใด
| งาน | ความเหมาะสมที่ดีกว่า |
|---|---|
| การทบทวนโค้ด การวิเคราะห์เอกสารยาว ๆ และการให้เหตุผลอย่างระมัดระวัง | โมเดลของ Anthropic หากคุณภาพเป็นสิ่งที่ต้องการ |
| ทุกกรณีที่ต้องการโมเดลจากผู้ขายเฉพาะสำหรับความสอดคล้องหรือการปฏิบัติตามข้อกำหนด | ผู้ขายรายนั้นโดยตรง |
| นิยาย บทบาทสมมติ และแชทเพื่อนคู่สนทนาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมายซึ่งโมเดลทั่วไปปฏิเสธ | เอนด์พอยต์ uncensored |
| ร่างข้อความปริมาณมากที่ราคาต่อโทเคนมีความสำคัญ | เปรียบเทียบราคาปัจจุบัน แล้วทดสอบทั้งสองอย่างกับพรอมต์ของคุณ |
| รูปภาพ, เสียง, เอมเบดดิ้ง | ไม่ใช่ที่นี่; API ของเราเป็นแบบข้อความเท่านั้น |
เราเป็นบริการแบบข้อความขนาดเล็ก โมเดลของเราเป็นโมเดลแบบเปิดน้ำหนักเพียงตัวเดียวที่ให้บริการโดยผู้ให้บริการอิสระ ซึ่งปรับแต่งมาเพื่อหลีกเลี่ยงการปฏิเสธเนื้อหา โมเดลนี้ไม่ใช่โมเดลของ Anthropic และไม่ได้อ้างว่าทำงานได้เทียบเท่าในทุกงาน หาก Claude เหมาะกับงานของคุณและนโยบายของ Anthropic ก็ให้ใช้ Claude ไปเลย เอนด์พอยต์แบบไม่เซ็นเซอร์มีไว้สำหรับกรณีที่มีการปฏิเสธจนทำให้การทำงานหยุดชะงัก
กฎข้อเดียวที่คงที่ฝั่งเราคือ: ห้ามมีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ ไม่ว่าจะถูกนำเสนอในรูปแบบใด
รูปแบบการใช้งานที่แนะนำคือการใช้โมเดลของ Anthropicเป็นค่าเริ่มต้นสำหรับงานประจำวัน และสลับไปใช้แบบไม่เซ็นเซอร์เฉพาะเมื่อเริ่มเซสชันสร้างสรรค์ วิธีนี้ทำให้ต้นทุนคาดการณ์ได้ เนื่องจากคุณจ่ายอัตราต่อโทเคนของเราเฉพาะสำหรับแชทที่ต้องการเท่านั้น นอกจากนี้ยังทำให้ประวัติการแชทเป็นระเบียบ เพราะแชทนิยายและแชทงานจะอยู่ในเธรดแยกกันพร้อมชื่อโมเดลที่ชัดเจนต่างกัน หากภายหลังพบว่าแบ็กเอนด์เพียงตัวเดียวตอบโจทย์ความต้องการของคุณ การลบการเชื่อมต่ออีกตัวออกใช้เวลาเพียงไม่กี่นาทีและไม่ได้สูญเสียอะไร
ต้นทุนของฝั่งไม่เซ็นเซอร์
ราคาของเราคือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens ซึ่งหักจากเครดิตแบบเติมเงินล่วงหน้า คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน และเครดิตไม่หมดอายุ ตัวอย่างสองกรณีใน Open WebUI:
ข้อความแชทสั้นๆ
พรอมต์ขนาด 3,000 โทเคน (รวมข้อความระบบและประวัติ) และการตอบกลับขนาด 500 โทเคน:
- Input: 3,000 / 1,000,000 x $0.15 = $0.00045
- เอาต์พุต: 500 / 1,000,000 x $0.50 = $0.00025
- รวม: $0.0007
จำนวน 1,000 ครั้งเช่นนี้จะมีต้นทุน $0.70
เอกสารยาวในหน้าต่างบริบท
อัปโหลดต้นฉบับ 60,000 token และขอคำวิจารณ์ 1,000 token Input คือ 60,000 / 1,000,000 x $0.15 = $0.009, output คือ 1,000 / 1,000,000 x $0.50 = $0.0005 รวมเป็น $0.0095 หน้าต่างคือ 100,000 token สำหรับพรอมต์และคำตอบ จึงพอดี แต่คำถามติดตามจะส่งเอกสารอีกครั้งทุกครั้งและแต่ละครั้งมีค่าใช้จ่ายประมาณเดียวกัน คุณลักษณะการดึงข้อมูลของ Open WebUI สามารถส่งเฉพาะส่วนที่เกี่ยวข้องได้ ซึ่งช่วยลดตัวเลขนี้
การเติมเงินมีตั้งแต่ $20 ถึง $500 เป็นจำนวนเต็ม พร้อมโบนัส +5% เมื่อเติม $50, +10% เมื่อเติม $100 และ +15% เมื่อเติม $200 เว็บไซต์นี้รับเฉพาะคริปโต โดยใช้ USDT บน TRC20 หรือ USDC บน Base ดู หน้าราคา
หากการเชื่อมต่อไม่ทำงาน
ความล้มเหลวส่วนใหญ่เกิดจากสาเหตุไม่กี่ประการ และคุณสามารถตัดสาเหตุเหล่านั้นออกตามลำดับ
- URL ต้องลงท้ายด้วย
/v1อย่าเพิ่ม/chat/completionsเอง เพราะ Open WebUI จะเพิ่มพาธที่จำเป็นเอง การขาด/v1หรือพาธซ้ำจะทำให้เกิดข้อผิดพลาด not found - คีย์ API วางโดยไม่เว้นวรรคหรือเครื่องหมายคำพูด การตอบกลับ 401 หมายถึงคีย์ถูกปฏิเสธ และการคัดลอกใหม่จากหน้าบัญชีของคุณจะแก้ไขได้
- รายการโมเดล หากเมนูแบบเลื่อนลงว่าง ให้รันการตรวจสอบ
GET /v1/modelsจากเทอร์มินัล หาก curl ทำงานได้แต่ Open WebUI ไม่เป็นเช่นนั้น ปัญหาคือที่ฟอร์มการเชื่อมต่อ ไม่ใช่บริการ - การตรวจสอบ เวอร์ชัน Open WebUI บางเวอร์ชันมีปุ่มตรวจสอบถัดจากการเชื่อมต่อ ให้ใช้ปุ่มนี้หลังการแก้ไขทุกครั้งแทนการเริ่มแชทเพื่อทดสอบ
- คำตอบยาวที่หยุดก่อนกำหนด ตรวจสอบการตั้งค่า max tokens ใดๆ ในการควบคุมแชท API เองไม่จำเป็นต้องใช้ และส่วนที่เสร็จสิ้นสามารถใช้หน้าต่าง 100,000 token ที่เหลือได้
เมื่อติดต่อฝ่ายสนับสนุน ให้ระบุค่าส่วนหัวการตอบกลับ X-Request-Id ค่านี้ระบุคำขอที่แน่นอนฝั่งของเราและช่วยประหยัดการถามคำถามเพิ่มเติม
เคล็ดลับการใช้งานทั้งสองแบบ
- ตั้งชื่อโมเดลของคุณ ใน Open WebUI คุณสามารถเปลี่ยนชื่อและอธิบายโมเดลในแผงผู้ดูแลระบบ ทำให้เมนูแบบเลื่อนลงชัดเจนว่าโมเดลใดคือโมเดลใด
- แยกพรอมต์ระบบออกต่างหาก พรอมต์ที่ปรับแต่งสำหรับโมเดลหนึ่งอาจอ่านได้แปลกสำหรับอีกโมเดล สร้างพรีเซ็ตแยกตามโมเดล
- อย่าเปลี่ยนโมเดลกลางสนทนาสำหรับงานที่ละเอียดอ่อน แต่ละโมเดลจะเห็นประวัติการสนทนาทั้งหมด ตัดสินใจเลือก backend ก่อนวางข้อมูลส่วนตัว
- ระวัง concurrency key เต็มอนุญาตคำขอพร้อมกัน 8 คำขอและ 300 ต่อนาที; key ทดลองอนุญาต 2 และ 60 หากมีคนหลายคนที่ใช้ Open WebUI ร่วมกัน 429 พร้อมรหัส
concurrencyหมายถึงสตรีมเปิดมากเกินไปในครั้งเดียว 429 พร้อมหัวRetry-After: 5คือการโอเวอร์โหลดชั่วคราว ให้ลองใหม่ในภายหลัง - สตรีมมิงทำงานได้ เมื่อเปิดสตรีมมิง ข้อมูลการใช้งาน (usage) จะรวมอยู่ในชิ้นข้อมูลสุดท้าย ซึ่งช่วยในการติดตามค่าใช้จ่าย
พรอมต์ที่ส่งไปยัง API ของเราไม่ถูกใช้ในการฝึกฝน รายละเอียดเพิ่มเติมเกี่ยวกับพารามิเตอร์และการเรียกใช้ฟังก์ชันอยู่ใน quickstart
