Cài đặt SDK OpenAI tiêu chuẩn
Bắt đầu bằng cách cài đặt SDK chính thức cho ngôn ngữ bạn muốn. Thư viện này xử lý xác thực và định dạng yêu cầu tự động. Nó hoạt động với API LLM không kiểm duyệt của chúng tôi mà không cần sửa đổi.
- Python:
pip install openai - Node.js:
npm install openai
Phiên bản SDK phải đủ mới để hỗ trợ base_url tham số. Điều này đảm bảo tương thích với cấu trúc API tương thích OpenAI của chúng tôi.
Thiết lập URL cơ sở và khóa API của bạn
Cấu hình client trỏ đến các máy chủ của chúng tôi. Sử dụng URL gốc https://api.unrestrictedaibot.com/v1 và khóa API độc đáo của bạn. Cấu hình này cho phép bạn sử dụng cùng mã bạn đã có cho các dịch vụ khác.
Xác thực được truyền qua Authorization header. SDK xử lý việc chèn tiêu đề này một cách tự động khi bạn cung cấp khóa.
curl https://api.unrestrictedaibot.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Find all null values in this JSON response"}]
}'Gửi lần hoàn tất hội thoại đầu tiên của bạn
Thực hiện yêu cầu đến /v1/chat/completions với ID mô hình uncensored. Gửi một tin nhắn của người dùng và nhận phản hồi dạng văn bản. Model này không từ chối các chủ đề người lớn hợp pháp hoặc nội dung gây tranh cãi.
Đặt max_tokens tham số để kiểm soát độ dài đầu ra. Mặc định là 2.048 token nếu bạn bỏ qua trường này. Cửa sổ ngữ cảnh của chúng tôi hỗ trợ tối đa 100.000 token tổng cộng.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedaibot.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Bật phản hồi streaming
Sử dụng Sự kiện gửi máy chủ (SSE) để phân phối token theo thời gian thực. Đặt stream=true trong yêu cầu của bạn. SDK trả về các token khi chúng được tạo ra. Điều này giảm độ trễ cảm nhận cho các phản hồi dài.
Xử lý các chunk luồng trong mã của bạn. Chunk cuối cùng chứa tổng số token đã sử dụng. Điều này hữu ích cho minh bạch hóa đơn và theo dõi mức tiêu thụ.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Sử dụng chế độ JSON và gọi hàm
Yêu cầu đầu ra có cấu trúc bằng cách đặt response_format để {"type": "json_object"}. Mô hình trả về JSON hợp lệ mà bạn có thể phân tích cú pháp trực tiếp. Điều này lý tưởng để xây dựng các agent hoặc đường ống dữ liệu.
Định nghĩa các công cụ trong yêu cầu của bạn để gọi hàm. Mô hình có thể gọi các hàm dựa trên lời nhắc của người dùng. Sử dụng tool_choice để kiểm soát thời điểm các hàm được gọi. Điều này tăng cường sức mạnh cho ứng dụng của bạn mà không cần thêm cơ sở hạ tầng.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.unrestrictedaibot.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Kiểm tra mức sử dụng và giới hạn token của bạn
Theo dõi mức sử dụng qua các tiêu đề phản hồi API hoặc chunk stream cuối cùng. Bạn được tính phí theo token đã sử dụng. Lỗi và từ chối là miễn phí. Mô hình giá minh bạch này áp dụng cho tất cả các yêu cầu.
Hãy tôn trọng các giới hạn tốc độ: 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời trên mỗi khóa. Nếu bạn vượt quá các giới hạn này, bạn sẽ nhận được lỗi 429. Hãy lập kế hoạch độ đồng thời của bạn cho phù hợp.
