התקן את ה-SDK הסטנדרטי של OpenAI
התחל בהתקנת ה-SDK הרשמי לשפת התכנות שלך. ספרייה זו מטפלת באימות ועיצוב בקשות באופן אוטומטי. היא עובדת עם ה-API של ה-LLM ה-un-censored שלנו ללא שינויים.
- Python:
pip install openai - Node.js:
npm install openai
גרסת ה-SDK חייבת להיות עדכנית מספיק כדי לתמוך ב base_url פרמטר. זה מבטיח תאימות למבנה ה-API התואם ל-OpenAI שלנו.
הגדר את כתובת ה-URL הבסיסית שלך ואת מפתח ה-API
הגדר את הלקוח כך שיפנה לשרתים שלנו. השתמש בכתובת הבסיס https://api.unrestrictedaibot.com/v1 ומפתח ה-API הייחודי שלך. תצורה זו מאפשרת לך להשתמש באותו קוד שכבר יש לך עבור שירותים אחרים.
האימות מועבר דרך ה Authorization header. ה-SDK מטפל בהזרקת הכותרת הזו אוטומטית כאשר אתה מספק את המפתח.
curl https://api.unrestrictedaibot.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Find all null values in this JSON response"}]
}'שלח את בקשת השלמת הצ'אט הראשונה שלך
בצעו בקשה ל- /v1/chat/completions עם מזהה המודל uncensored. שלחו הודעת משתמש וקבלו תגובת טקסט. מודל זה לא דוחה נושאי מבוגרים חוקיים או תוכן שנוי במחלוקת.
הגדר את max_tokens פרמטר לשליטה באורך הפלט. ברירת המחדל היא 2,048 טוקנים אם תשמיט שדה זה. חלון ההקשר שלנו תומך בעד 100,000 טוקנים בסך הכל.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedaibot.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)אפשרו תגובות בזרם (streaming).
השתמשו באירועים מוכווני שרת (SSE) למסירת טוקנים בזמן אמת. הגדירו stream=true בקשתך. ה-SDK מחזיר טוקנים כפי שנוצרים. זה מפחית את תחומת העיכוי עבור תגובות ארוכות.
טפל בחלקי הזרם בקוד שלך. החלק הסופי מכיל את סך השימוש בטוקנים. זה שימושי לשקיפות בחיוב ובמעקב אחר צריכה.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)השתמשו במצב JSON ובקריאת פונקציות
בקשת פלט מבני על ידי הגדרת response_format אל {"type": "json_object"}. המודל מחזיר JSON שניתן לנתח ישירות. זה אידיאלי לבניית סוכנים או צינורות נתונים.
הגדירו כלים בבקשה לקריאה לפונקציות. המודל יכול להפעיל פונקציות בהתאם להנחית המשתמש. השתמשו ב tool_choice לשליטה מתי פונקציות נקראות. זה מוסיף כוח ליישומים שלך ללא תשתית נוספת.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.unrestrictedaibot.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);בדוק את צריכת ה-token והמגבלות שלך
עקבו אחר השימוש דרך כותרות תגובת ה-API או פיסת הזרימה הסופית. אתם משלמים לפי כל טוקן שבושם. שגיאות ודחיות הן ללא תשלום. מודל תמחור שקוף זה חל על כל הבקשות.
כבדו את מגבלות הקצב: 300 בקשות לדקה ו-8 בקשות מקבילות לכל מפתח. אם תחריגו מגבולות אלו, תקבלו שגיאת 429. תכננו את המקבילות שלכם בהתאם.
