Telepítse a szabványos OpenAI SDK-t
Kezdje a hivatalos SDK telepítésével a választott nyelvhez. Ez a könyvtár automatikusan kezeli a hitelesítést és a kérések formázását. Az uncensored LLM API-nkkal módosítás nélkül működik.
- Python:
pip install openai - Node.js:
npm install openai
Az SDK verziónak elég frisnek kell lennie a támogatáshoz base_url paraméter. Ez biztosítja a kompatibilitást OpenAI-kompatibilis API-struktúránkkal.
Állítsd be a base URL-t és az API-kulcsot
Konfigurálja az ügyfélt, hogy a szervereinkre mutasson. Használja az alap URL-t https://api.unrestrictedaibot.com/v1 és egyedi API-kulcsodat. Ez a beállítás lehetővé teszi, hogy ugyanazt a kódot használd, amit már más szolgáltatásokhoz használsz.
A hitelesítés a Authorization header. Az SDK automatikusan kezeli ezt a fejléc injektálást, amikor megadja a kulcsot.
curl https://api.unrestrictedaibot.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Find all null values in this JSON response"}]
}'Küldje el első chat-lezárás
Kérés küldése a /v1/chat/completions a modell azonosítóval uncensored. Küldjön egy felhasználói üzenetet, és kapjon szöveges választ. Ez a modell nem utasít vissza jogszerű felnőtt témákat vagy vitatott tartalmakat.
Állítsa be a max_tokens paraméter a kimeneti hossz vezérlésére. Az alapértelmezett 2 048 token, ha elhagyja ezt a mezőt. Kontextusablakunk összesen 100 000 token támogatású.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedaibot.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Streamelt válaszok engedélyezése.
Használja a Szerveroldali Eseményeket (SSE) a valós idejű tokenátadáshoz. Állítsa be stream=true a kérésben. Az SDK tokeneket ad vissza, ahogy azok generálódnak. Ez csökkenti az érzékelt késleltetést a hosszú válaszok esetén.
Kezelje a stream darabjait a kódjában. Az utolsó darab tartalmazza a teljes tokenfelhasználást. Ez hasznos a számlázási átláthatóság és a fogyasztás figyelése szempontjából.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Használjon JSON módot és függvényhívást
Strukturált kimenet kérése a response_format a {"type": "json_object"}. A modell érvényes JSON-t ad vissza, amelyet közvetlenül elemezhet. Ez ideális ügynokok vagy adatvezetékek építéséhez.
Határozza meg az eszközöket a kérésben a függvényhíváshoz. A modell a felhasználói prompt alapján hívhat függvényeket. Használja a tool_choice a függvények hívásának időzítésének szabályozására. Ez extra infrastruktúra nélkül növeli az alkalmazások erejét.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.unrestrictedaibot.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ellenőrizze a tokenhasználatot és a korlátokat.
Kövesse a felhasználást az API válaszfejlécek vagy a végleges stream chunk alapján. Tokenenként számítunk fel a felhasznált tokenek után. A hibák és a visszautasítások ingyenesek. Ez az átlátható árazási modell minden kérésre vonatkozik.
Tartsd be a sebességkorlátokat: percenként 300 kérés és 8 párhuzamos kérés kulcsonként. Ha túlléped ezeket a korlátokat, 429-es hibát kapsz. Tervezd meg a párhuzamosságot ennek megfelelően.
