SDK-kompatibilitás és alap URL beállítás
Csatlakoztassa meglévő kliens kódját a dedikált végpontunkra való irányítással. Ez openai kompatibilis API elfogadja a szabványos fejléceket és SDK konfigurációkat kódváltoztatás nélkül. Csak a base URL-t kell frissítenie, és megadnia az API kulcsát a műszerfalról.
https://api.openrouterratelimits.com/v1 az összes kérés egyetlen belépési pontja. A hitelesítés a legtöbb modern LLM könyvtárban megtalált szabványos Bearer token sémát használja. Adja meg a kulcsát a Authorization fej a személyazonosság igazolásához. Ez a beállítás bármely olyan klienssel működik, amely OpenAI-stílusú felületet vár, így a migráció azonnali a beszállítói kötöttségtől fáradt csapatok számára.
- Base URL:
https://api.openrouterratelimits.com/v1 - Auth fejléc:
Authorization: Bearer YOUR_API_KEY - Modell ID:
uncensored
Streamelt válaszok SSE-vel
Engedélyezze a streamelést úgy, hogy stream: true a kérés payloadjában. Az API Server-Sent Events (SSE)-t ad vissza a valós idejű tokenátvitelhez. Minden darab tartalmazza a generált szöveget, amíg az utolsó darab nem tartalmazza a felhasználási statisztikákat. Ez a megközelítés karban tartja a felhasználói felület válaszidejét még hosszú kontextusablakok esetén is.
A streamelés ideális chat felületekhez vagy szerepjáték-szenáriókhoz, ahol a késleltetés számít. Nem kell várnod a teljes befejezésre a szöveg megjelenítéséhez. A végleges darab mindig tartalmazza a token számlálást a pontos számlázás érdekében. A streamelés közbeni hibák esetén is megfelelő HTTP státuskódok kerülnek visszaadásra az azonnali kezeléshez.
Function calling és JSON mód
Használjon strukturált kimeneteket a megbízható adat kinyeréséhez vagy eszköz integrációhoz. Engedélyezze response_format valamivel {"type": "json_object"} a JSON-kompatibilitás kikényszerítéséhez. Ez a mód elengedhetetlen a komplex, egymásba ágyazott struktúrák feldolgozásához extra tisztítási logika nélkül. A függvényhívás a szabványos szöveggenerálással együtt működik a dinamikus ügynök munkafolyamatokhoz.
Határozza meg az eszközöket a tools tömb és megadása tool_choice a szigorú érvényesítéshez. A modell függvényhívásokat ad vissza a szabványos OpenAI formátumban. Ez a funkció támogatja az egyszeri és többszörös eszköz hívásokat egyetlen körben. Használja ezt ügynokok építéséhez, amelyek megbízhatóan kommunikálnak külső API-kkal vagy adatbázisokkal.
Tokenek és paraméterek kezelése
Generálási viszony szabályozása standard paraméterekkel, mint temperature, top_p, és stop. A kontextusablak összesen 100 000 token támogatását biztosítja a prompt és a kiegészítés számára. Ez lehetővé teszi a kiterjesztett előzmények vagy nagy dokumentumok feldolgozását egyetlen kérésben.
Beállítás max_tokens a kimeneti hosszának korlátozására, alapértelmezés szerint 2 048-ra, ha elhagyja. A modell kezeli presence_penalty és frequency_penalty stílusvezérléshez. A token használat az tényleges bemeneti és kimeneti számok alapján kerül felszámolásra. A hibák nem fogyasztanak tokeneket, így biztosítva a tisztességes számlázást sikertelen kérelmek esetén.
A kulcsonkénti korlátok megértése
Minden API-kulcs percenként 300 kérést támogat, nyolc párhuzamos kérés korlátjával. Ez a korlát kulcsonként érvényes, így több kulcs létrehozása lineárisan skálázza az átviteli sebességet. A kéréstörzs maximális mérete 8 MB, ami a legtöbb felhasználási eset kontextusablakjába belefér.
A sebességkorlátok folyamatosan, csúszó ablak alapján frissülnek. Ha túlléped a korlátot, az API 429 hibát ad vissza. Frissítsd az előre fizetett hitelkeretedet a prioritási hozzáférés fenntartásához. A megosztott csomagokkal ellentétben dedikált szervereink nem szenvednek szomszédos zajtól. Figyeld a felhasználási műszerfalat, hogy maradjon ezek határain belül a konzisztens teljesítmény érdekében.
Gyakori hibák hibaelhárítása
Kezelje a hibákat az HTTP státuskód és a válasz törzsének ellenőrzésével. A 401 hiba érvénytelen vagy hiányzó API-kulcsot jelez. Generálja újra a kulcsot a dashboardról, ha a hitelesítés sikertelen. A 402 hiba azt jelenti, hogy az előre fizetett hitelét kimerítette; töltse fel kriptovalutával a szolgáltatás folytatásához.
A 429-es hiba azt jelzi, hogy átlépte az átfogási limitet. Csökkentse a kérések gyakoriságát, vagy ossza meg a munkaterhelést több kulcs között. Az API nem számít fel tokeneket ezekhez a hibákhoz, így nem veszít kreditet az újrapróbálásokkor. Győződjön meg arról, hogy az ügyfél könyvtár exponenciális backoffkal kezeli az újrapróbálásokat a robusztusság érdekében.
cURL
curl https://api.openrouterratelimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process one million logs"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streamelés
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)