Nastavení kompatibility SDK a základní URL
Připojte svůj stávající klientský kód směrováním na náš vyhrazený endpoint. Tento API kompatibilní s openai přijímá standardní hlavičky a konfigurace SDK bez změn kódu. Potřebujete pouze aktualizovat základní URL a poskytnout svůj API klíč z ovládacího panelu.
https://api.openrouterratelimits.com/v1 je jediným vstupním bodem pro všechny požadavky. Autentizace používá standardní schéma Bearer tokenů, které najdete ve většině moderních knihoven LLM. Předáte svůj klíč v Authorization hlavička pro ověření vaší identity. Toto nastavení funguje s jakýmikoli klientem očekávajícím rozhraní ve stylu OpenAI, což umožňuje okamžitý přechod týmům unaveným z vázanosti na dodavatele.
- Základní URL:
https://api.openrouterratelimits.com/v1 - Hlavička Auth:
Authorization: Bearer YOUR_API_KEY - ID modelu:
uncensored
Streamované odpovědi pomocí SSE
Povolte streamování nastavením stream: true v těle požadavku. API vrací Server-Sent Events (SSE) pro doručování tokenů v reálném čase. Každá část obsahuje vygenerovaný text, dokud poslední část neobsahuje statistiky využití. Tento přístup udržuje vaše uživatelské rozhraní responzivní i pro dlouhá kontextová okna.
Streamování je ideální pro chatová rozhraní nebo roleplay scénáře, kde záleží na latenci. Nemusíte čekat na dokončení celé odpovědi, abyste mohli zobrazit text. Poslední část vždy obsahuje počty tokenů pro přesné fakturování. Chyby během streamování stále vracejí správné HTTP status kódy pro okamžité zpracování.
Volání funkcí a režim JSON
Použijte strukturované výstupy pro spolehlivé extrahování dat nebo integraci nástrojů. Povolte response_format s {"type": "json_object"} abyste vynutili shodu s JSON. Tento režim je zásadní pro parsování komplexních vnořených struktur bez další logiky čištění. Volání funkcí funguje vedle standardní generace textu pro dynamické pracovní postupy agentů.
Definujte své nástroje v tools pole a specifikujte tool_choice pro přísné vynucování. Model vrací volání funkcí ve standardním formátu OpenAI. Tato funkce podporuje jak jedno, tak více volání nástrojů v rámci jednoho tahu. Použijte to pro tvorbu agentů, kteří spolehlivě interagují s externími API nebo databázemi.
Správa tokenů a parametrů
Ovládejte chování generování pomocí standardních parametrů jako temperature, top_p, a stop. Kontextové okno podporuje až 100 000 tokenů pro prompt a dokončení combined. To umožňuje rozsáhlý historický kontext nebo zpracování velkých dokumentů v jednom požadavku.
Nastavit max_tokens omezit délku výstupu, výchozí hodnota je 2 048, pokud není uvedeno jinak. Model zvládá presence_penalty a frequency_penalty pro stylistickou kontrolu. Využití tokenů se účtuje na základě skutečného počtu vstupních a výstupních tokenů. Chyby nespotřebují tokeny, což zajišťuje férové fakturování za neúspěšné požadavky.
Chápání limitů rychlosti na klíč
Každý klíč API podporuje 300 požadavků za minutu s limitem paralelních požadavků 8 současných požadavků. Tento limit platí pro každý klíč, takže vytvořením více klíčů škálujete svou propustnost lineárně. Maximální velikost těla požadavku je 8 MB, což se vejde do kontextového okna pro většinu případů použití.
Limity rychlosti se obnovují průběžně na základě klouzavého okna. Pokud limit překročíte, API vrátí chybu 429. Aktualizujte svůj předplacený kredit pro udržení prioritního přístupu. Na rozdíl od sdílených tierů naše vyhrazené servery netrpí rušením sousedů. Sledujte svůj dashboard využití, abyste zůstali v těchto mezích pro konzistentní výkon.
Řešení běžných chyb
Zpracujte chyby kontrolou HTTP status kódu a těla odpovědi. Chyba 401 označuje neplatný nebo chybějící API klíč. Pokud selže autentizace, vygenerujte nový klíč z panelu. Chyba 402 znamená, že je vyčerpán váš předplacený kredit; pro obnovení služby doplňte kredit pomocí kryptoměn.
Chyba 429 signalizuje překročení limitů rychlosti. Snižte frekvenci požadavků nebo rozdělte pracovní zátěž mezi více klíčů. API neúčtuje tokeny za tyto chyby, takže za opakování nepřicházíte o kredity. Ujistěte se, že vaše klientská knihovna zpracovává opakování s exponenciálním zpomalováním pro robustnost.
cURL
curl https://api.openrouterratelimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process one million logs"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streamování
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)