Asenna virallinen OpenAI-SDK
Aloita asentamalla virallinen SDK haluamallesi kielelle. Tämä kirjasto käsittelee todennuksen ja pyyntöjen muotoilun automaattisesti. Se toimii tuotannon ulkopuolisen LLM-API:n kanssa ilman muutoksia.
- Python:
pip install openai - Node.js:
npm install openai
SDK-version on oltava riittävän tuore tukemaan base_url parametri. Tämä varmistaa yhteensopivuuden OpenAI-yhteensopivan API-rakenteemme kanssa.
Aseta base URL ja API-avaimesi
Määritä asiakas osoittamaan palvelimiimme. Käytä perus-URL-osoitetta https://api.unrestrictedaibot.com/v1 ja ainutlaatuisen API-avaimesi. Tämä kokoonpano mahdollistaa olemassa olevan koodin käytön muihin palveluihin.
Todennus välitetään kentän Authorization header. SDK hoitaa tämän headerin lisäyksen automaattisesti, kun syötät avaimen.
curl https://api.unrestrictedaibot.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Find all null values in this JSON response"}]
}'Lähetä ensimmäinen chat-valmius
Tee pyyntö osoitteeseen /v1/chat/completions mallin tunnisteella uncensored. Lähetä käyttäjän viesti ja vastaanota tekstimuotoinen vastaus. Tämä malli ei hylkää laillisia aikuisaiheita tai kiistanalaisia sisältöjä.
Aseta max_tokens parametri, joka ohjaa tulosteen pituutta. Oletusarvo on 2 048 tokenia, jos jätät tämän kentän pois. Kontesttilaakserimme tukee yhteensä jopa 100 000 tokenia.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedaibot.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Ota suoratoistovastaukset käyttöön
Käytä Server-Sent Events (SSE) reaaliaikaiseen tokenien toimitukseen. Aseta stream=true pyynnössäsi. SDK tuottaa tokenia niiden luomisen yhteydessä. Tämä vähentää koettua viivettä pitkissä vastauksissa.
Käsittele virtalohkoja koodissasi. Viimeinen lohko sisältää kokonaisten tokenien käytön. Tämä on hyödyllistä laskennan läpinäkyvyydessä ja kulutuksen seurannassa.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Käytä JSON-tilaa ja funktiokutsuja
Pyyntö strukturoitu tulos asettamalla response_format vastaan {"type": "json_object"}. Malli palauttaa JSON-muodon, jonka voit jäsentää suoraan. Tämä on ihanteellinen agenttien tai dataputkien rakentamiseen.
Määritä työkalut pyyntöön funktiokutsuja varten. Malli voi kutsua funktioita käyttäjän syötteen perusteella. Käytä tool_choice hallitsemaan funktioiden kutsumista. Tämä lisää sovellustesi tehoa ilman lisäinfrastruktuuria.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.unrestrictedaibot.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Tarkista token-käyttösi ja rajat
Seuraa käyttöä API-vastausotsikoiden tai viimeisen stream-osan kautta. Sinua laskutetaan käytetyt tokenit. Virheet ja hylkäykset ovat ilmaisia. Tämä läpinäkyvä hinnoittelumalli koskee kaikkia pyyntöjä.
Kunnioita nopeusrajoituksia: 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä per avain. Jos ylität nämä rajat, saat virhekoodin 429. Suunnittele samanaikaisuutesi sen mukaisesti.
