Hướng dẫn nhanh tích hợp API LLM không kiểm duyệt

Xác thực & Tiêu đề

API của chúng tôi sử dụng xác thực khóa API tiêu chuẩn. Bạn phải bao gồm khóa của mình trong tiêu đề Authorization cho mọi yêu cầu. Tài khoản mới nhận được khóa ngay sau khi đăng ký trên trang Lấy khóa API. Nếu bạn mất khóa, bạn có thể tạo lại bất cứ lúc nào, điều này sẽ thu hồi khóa cũ. Chỉ một khóa hoạt động được phép cho mỗi tài khoản.

URL cơ bản cho tất cả các yêu cầu là https://api.llmapistatus.com/v1. Điều này hoạt động với các SDK OpenAI chính thức và bất kỳ máy khách tương thích OpenAI nào chỉ bằng cách cập nhật cấu hình base_url. Không cần tiêu đề đặc biệt nào ngoài xác thực.

Endpoint Chat Completions

Gửi văn bản vào và nhận văn bản ra bằng cách sử dụng endpoint POST /v1/chat/completions. ID mô hình luôn là uncensored. Đây là một mô hình trọng số mở chạy trên máy chủ GPU của chúng tôi, được tinh chỉnh để trả lời mà không từ chối nội dung cho người dùng trưởng thành hợp pháp. Nó không phải là GPT, Claude hoặc mô hình của nhà cung cấp khác.

API hỗ trợ gọi công cụ và hàm. Bạn không cần quản lý việc định tuyến giữa các nhà cung cấp khác nhau; chúng tôi cung cấp một endpoint không kiểm duyệt chuyên dụng. Để so sánh chung với các nhà cung cấp khác, hãy xem Bảng xếp hạng LLM của chúng tôi.

Copycurl https://api.llmapistatus.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Phản hồi truyền phát

Để giảm độ trễ, bạn có thể bật truyền phát bằng cách đặt stream: true trong thân yêu cầu của bạn. API trả về luồng Sự kiện được máy chủ gửi (SSE). Điều này rất lý tưởng cho các giao diện trò chuyện nơi bạn muốn hiển thị token khi chúng được tạo ra.

Truyền phát hoạt động với cả các SDK OpenAI chính thức và các máy khách HTTP chung. Luồng tiếp tục cho đến khi mô hình hoàn thành hoặc xảy ra lỗi. Phương pháp này giảm thời gian chờ cảm nhận được của người dùng, khiến mô hình không kiểm duyệt cảm thấy phản hồi hơn trong các ứng dụng sản xuất.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Hỗ trợ gọi hàm

API hỗ trợ đầu ra có cấu trúc thông qua gọi hàm. Bạn có thể xác định các công cụ trong yêu cầu của mình và mô hình sẽ trả về JSON có cấu trúc khớp với lược đồ của bạn. Điều này hữu ích để xây dựng các tác nhân hoặc ứng dụng cần tương tác với các hệ thống khác.

Sử dụng tham số tools trong yêu cầu hoàn thành trò chuyện của bạn. Mô hình sẽ phản hồi bằng các cuộc gọi công cụ khi thích hợp, cho phép bạn thực thi các hàm và đưa kết quả trở lại cuộc trò chuyện. Tính năng này có sẵn trên tất cả các yêu cầu mà không tốn thêm chi phí.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapistatus.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Danh sách mô hình & Cửa sổ ngữ cảnh

Bạn có thể liệt kê các mô hình khả dụng bằng cách sử dụng endpoint GET /v1/models. Điều này sẽ trả về siêu dữ liệu bao gồm ID mô hình, là uncensored. Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token cho cả prompt và completion kết hợp.

Cửa sổ ngữ cảnh lớn này cho phép bạn chuyển các hướng dẫn hệ thống rộng rãi, lịch sử trò chuyện hoặc nội dung tài liệu trong một yêu cầu duy nhất. Nó phù hợp cho việc tạo văn bản dài hoặc xử lý các tài liệu lớn. Hãy giữ tổng số token của bạn trong giới hạn 100k để tránh lỗi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapistatus.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Giới hạn tốc độ & Hạn mức

Mỗi khóa API bị giới hạn ở 300 yêu cầu mỗi phút. Kích thước thân yêu cầu tối đa là 8 MB. Nếu bạn vượt quá giới hạn tốc độ, bạn sẽ nhận được mã trạng thái 429. Nếu khóa API của bạn không hợp lệ, bạn sẽ nhận được lỗi 401. Nếu bạn không có tín dụng trả trước, bạn sẽ nhận được lỗi 402.

Giá cả minh bạch: $0.25 cho mỗi 1 triệu token đầu vào và $1.00 cho mỗi 1 triệu token đầu ra. Tín dụng được trả trước và không bao giờ hết hạn. Bạn có thể nạp tiền từ $10 bằng tiền điện tử (USDT hoặc USDC). Xem trang Bảng giá API LLM để biết chi tiết về tín dụng thưởng.