คู่มือเริ่มต้นใช้งาน API LLM แบบไม่เซ็นเซอร์

การตรวจสอบสิทธิ์และส่วนหัว

API ของเราใช้การตรวจสอบสิทธิ์ด้วยคีย์ API มาตรฐาน คุณต้องรวมคีย์ของคุณในส่วนหัว Authorization สำหรับทุกคำขอ บัญชีใหม่จะได้รับคีย์ทันทีหลังจากสมัครสมาชิกที่หน้ารับคีย์ API หากคุณทำหาย คุณสามารถสร้างคีย์ใหม่ได้ทุกเมื่อ ซึ่งจะทำให้คีย์เก่ายกเลิกทันที อนุญาตให้มีคีย์ที่ใช้งานได้อย่างเดียวต่อบัญชี

URL พื้นฐานสำหรับคำขอทั้งหมดคือ https://api.llmapistatus.com/v1 สิ่งนี้ทำงานกับ SDK อย่างเป็นทางการของ OpenAI และไคลเอนต์ที่เข้ากันได้กับ OpenAI ใดๆ โดยการอัปเดตการกำหนดค่า base_url อย่างง่าย ไม่ต้องใช้ส่วนหัวพิเศษนอกเหนือจากการตรวจสอบสิทธิ์

เอนด์พอยต์ Chat Completions

ส่งข้อความเข้าและรับข้อความออกโดยใช้เอนด์พอยต์ POST /v1/chat/completions รหัสโมเดลคือ uncensored เสมอ นี่คือโมเดลแบบเปิดน้ำหนักที่รันบนเซิร์ฟเวอร์ GPU ของเรา ปรับแต่งเพื่อตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่ใช่โมเดลของ GPT, Claude หรือผู้จัดจำหน่ายรายอื่น

API รองรับเครื่องมือและการเรียกใช้ฟังก์ชัน คุณไม่จำเป็นต้องจัดการการเปลี่ยนเส้นทางระหว่างผู้จัดจำหน่ายรายต่างๆ เราให้บริการเอนด์พอยต์แบบไม่เซ็นเซอร์เฉพาะทางเดียว สำหรับการเปรียบเทียบทั่วไปของผู้จัดจำหน่ายรายอื่น โปรดดูตารางผู้นำ LLM ของเรา

Copycurl https://api.llmapistatus.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

การตอบสนองแบบสตรีมมิง

เพื่อลดเวลาแฝง คุณสามารถเปิดใช้งานสตรีมมิงโดยการตั้งค่า stream: true ในร่างกายคำขอของคุณ API จะส่งสตรีมเหตุการณ์ที่ส่งโดยเซิร์ฟเวอร์ (SSE) สิ่งนี้เหมาะสำหรับอินเทอร์เฟซแชทที่คุณต้องการแสดงโทเคนเมื่อสร้างเสร็จ

สตรีมมิงใช้งานได้ทั้งกับ SDK อย่างเป็นทางการของ OpenAI และไคลเอนต์ HTTP ทั่วไป สตรีมจะดำเนินต่อไปจนกว่าโมเดลจะเสร็จสิ้นหรือเกิดข้อผิดพลาด วิธีการนี้ลดเวลาการรอที่ผู้ใช้รู้สึก ทำให้โมเดลแบบไม่เซ็นเซอร์รู้สึกตอบสนองมากขึ้นในแอปพลิเคชันการผลิต

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

การรองรับการเรียกใช้ฟังก์ชัน

API รองรับเอาต์พุตที่มีโครงสร้างผ่านการเรียกใช้ฟังก์ชัน คุณสามารถกำหนดเครื่องมือในคำขอของคุณและโมเดลจะส่งคืน JSON ที่มีโครงสร้างที่ตรงกับสคีมาของคุณ สิ่งนี้มีประโยชน์สำหรับการสร้างเอเจนต์หรือแอปพลิเคชันที่ต้องโต้ตอบกับระบบอื่น

ใช้พารามิเตอร์ tools ในคำขอเสร็จสิ้นแชทของคุณ โมเดลจะตอบสนองด้วยการเรียกใช้ฟังก์ชันเมื่อเหมาะสม ทำให้คุณสามารถเรียกใช้ฟังก์ชันและส่งผลลัพธ์กลับเข้าสู่การสนทนาได้ คุณสมบัตินี้มีในทุกคำขอโดยไม่เสียค่าใช้จ่ายเพิ่มเติม

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapistatus.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การระบุโมเดลและหน้าต่างบริบท

คุณสามารถระบุโมเดลที่มีอยู่โดยใช้เอนด์พอยต์ GET /v1/models สิ่งนี้จะส่งข้อมูลเมตาซึ่งรวมถึงรหัสโมเดล ซึ่งคือ uncensored โมเดลรองรับหน้าต่างบริบท 100,000 โทเคนสำหรับพรอมต์และการเสร็จสิ้นรวมกัน

หน้าต่างบริบทขนาดใหญ่ nàyช่วยให้คุณส่งคำแนะนำระบบ คำอธิบายประวัติการสนทนา หรือเนื้อหาเอกสารจำนวนมากในคำขอเดียว เหมาะสำหรับข้อความยาวหรือประมวลผลเอกสารขนาดใหญ่ รักษาจำนวนโทเคนรวมของคุณภายในขีดจำกัด 100k เพื่อหลีกเลี่ยงข้อผิดพลาด

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapistatus.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ขีดจำกัดอัตราและโควตา

คีย์ API แต่ละอันจำกัดอยู่ที่ 300 คำขอต่อนาที ขนาดร่างกายคำขอสูงสุดคือ 8 MB หากคุณเกินขีดจำกัดอัตรา คุณจะรับสถานะ 429 หากคุณมีคีย์ API ไม่ถูกต้อง คุณจะรับข้อผิดพลาด 401 หากคุณไม่มีเครดิตแบบเติมเงินล่วงหน้า คุณจะรับข้อผิดพลาด 402

ราคาโปร่งใส: $0.25 ต่อ 1M โทเคนอินพุต และ $1.00 ต่อ 1M โทเคนเอาต์พุต เครดิตเป็นแบบเติมเงินล่วงหน้าและไม่หมดอายุ คุณสามารถเติมเงินตั้งแต่ $10 ด้วยคริปโต (USDT หรือ USDC) ดูหน้าราคา API LLM สำหรับรายละเอียดเกี่ยวกับเครดิตโบนัส