Zainstaluj standardowy SDK OpenAI
Zacznij od zainstalowania oficjalnego pakietu SDK dla preferowanego języka. Ta biblioteka automatycznie obsługuje uwierzytelnianie i formatowanie żądań. Działa z naszym API LLM bez cenzury bez modyfikacji.
- Python:
pip install openai - Node.js:
npm install openai
Wersja SDK musi być wystarczająco nowa, aby obsługiwać base_url parametr. Zapewnia to kompatybilność z naszą strukturą API zgodną z OpenAI.
Skonfiguruj swój base URL i klucz API
Skonfiguruj klienta tak, aby wskazywał na nasze serwery. Użyj podstawowego adresu URL https://api.unrestrictedaibot.com/v1 i Twój unikalny klucz API. To rozwiązanie pozwala na użycie tego samego kodu, którego już używasz dla innych usług.
Uwierzytelnianie jest przekazywane przez Authorization Nagłówek. SDK obsługuje tę iniekcję nagłówków automatycznie, gdy podasz klucz.
curl https://api.unrestrictedaibot.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Find all null values in this JSON response"}]
}'Wyślij swoje pierwsze uzupełnienie czatu
Zrób żądanie do /v1/chat/completions z identyfikatorem modelu uncensored. Wyślij wiadomość użytkownika i otrzymaj odpowiedź tekstową. Ten model nie odmawia treści dorosłych o charakterze prawnym ani kontrowersyjnych tematów.
Ustaw max_tokens parametr kontrolujący długość odpowiedzi. Domyślna wartość to 2048 tokenów, jeśli pominiesz to pole. Okno kontekstowe obsługuje do 100 000 tokenów łącznie.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedaibot.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Włącz odpowiedzi strumieniowe
Użyj Wysyłanych Wydarzeń Serwerowych (SSE) dla dostarczania tokenów w czasie rzeczywistym. Ustaw stream=true w Twoim żądaniu. SDK zwraca tokeny w miarę ich generowania. Zmniejsza to postrzeganą latencję dla długich odpowiedzi.
Obsłuż fragmenty strumienia w swoim kodzie. Ostatni fragment zawiera całkowite zużycie tokenów. Jest to przydatne dla przejrzystości rozliczeń i monitorowania zużycia.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Używaj trybu JSON i wywoływania funkcji
Żądaj wyjścia strukturalnego, ustawiając response_format do {"type": "json_object"}. Model zwraca format JSON, który możesz bezpośrednio sparsować. Jest to idealne do budowania agentów lub potoków danych.
Zdefiniuj narzędzia w ciele żądania do wywoływania funkcji. Model może wywoływać funkcje na podstawie promptu użytkownika. Użyj tool_choice do kontrolowania wywoływania funkcji. Dodaje to mocy Twoim aplikacjom bez konieczności dodawania dodatkowej infrastruktury.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.unrestrictedaibot.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Sprawdź zużycie i limity tokenów
Monitoruj swoje zużycie poprzez nagłówki odpowiedzi API lub ostatni fragment strumienia. Jesteś rozliczany za użyty token. Błędy i odmowy są darmowe. Ten przejrzysty model cenowy dotyczy wszystkich żądań.
Szczegółowo przestrzegaj limitów szybkości: 300 żądań na minutę i 8 jednoczesnych żądań na klucz. Jeśli przekroczysz te limity, otrzymasz błąd 429. Zaplanuj swoją współbieżność odpowiednio.
