OpenRouter-ratebegrænsninger: Hurtigstartsguide

SDK-kompatibilitet og base URL-setup

Tilslut din eksisterende klientkode ved at pege den mod vores dedikerede endpoint. Dette openai kompatibel API accepterer standardheaders og SDK-konfigurationer uden kodeændringer. Du skal kun opdatere base-URL'en og angive din API-nøgle fra dashboardet.

https://api.openrouterratelimits.com/v1 er det eneste indgangspunkt for alle anmodninger. Autentificering bruger den standard Bearer-tokenordning, der findes i de fleste moderne LLM-biblioteker. Send din nøgle i Authorization header til at verificere din identitet. Denne opsætning fungerer med enhver klient, der forventer en OpenAI-lignende interface, hvilket gør migration øjeblikkelig for teams, der er trætte af vendor lock-in.

• Base URL: https://api.openrouterratelimits.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY
• Model-ID: uncensored

Streaming-respons med SSE

Aktivér streaming ved at indstille stream: true i din request payload. API'et returnerer Server-Sent Events (SSE) til realtidslevering af tokens. Hver chunk indeholder den genererede tekst, indtil den sidste chunk inkluderer brugsstatistikker. Denne tilgang holder dit UI responsivt, selv for lange kontekstvinduer.

Streaming er ideelt til chatgrænseflader eller rollespils-scenarier, hvor latens er afgørende. Du behøver ikke at vente på, at hele udfyldningen renderes, før du kan vise tekst. Det sidste chunk indeholder altid token-tællinger for præcis fakturering. Fejl under streaming returnerer stadig korrekte HTTP-statuskoder til øjeblikkelig håndtering.

Function calling og JSON-mode

Brug strukturerede output til pålidelig dataudtrækning eller værktøjsintegration. Aktiver response_format med {"type": "json_object"} for at tvinge JSON-overholdelse. Denne tilstand er essentiel til at parse komplekse nestede strukturer uden ekstra oprydningslogik. Funktionskald fungerer alongside standard tekstgenerering til dynamiske agent-arbejdsgange.

Definér dine værktøjer i tools array og angiv tool_choice til streng håndhævelse. Modellen returnerer funktionskald i standard OpenAI-format. Denne funktion understøtter både enkelt- og flerværktogskald inden for et enkelt turn. Brug dette til at bygge agenter, der interagerer med eksterne API'er eller databaser pålideligt.

Håndtering af tokens og parametre

Styr genereringsadfærd med standardparametre som temperature, top_p, og stop. Kontekstvinduet understøtter op til 100.000 tokens for prompt og completion kombineret. Dette giver mulighed for omfattende historisk kontekst eller stor dokumentbehandling i en enkelt anmodning.

Indstil max_tokens for at begrænse outputlængden, med en standardværdi på 2.048, hvis den udelades. Modellen håndterer presence_penalty og frequency_penalty til stilistisk kontrol. Tokenforbrug opkræves baseret på faktiske input- og outputtællinger. Fejl forbruger ikke tokens, hvilket sikrer retfærdig fakturering for mislykkede anmodninger.

Forståelse af rate limits per nøgle

Hver API-nøgle understøtter 300 anmodninger i minuttet med en concurrenty-grænse på 8 samtidige anmodninger. Denne grænse gælder per nøgle, så oprettelse af flere nøgler skalerer din throughput lineært. Den maksimale størrelse for anmodningskroppen er 8 MB, hvilket passer inden for kontekstvinduet til de fleste use cases.

Ratebegrænsninger nulstilles kontinuerligt baseret på et glidende vindue. Hvis du overskrider grænsen, returnerer API'et en 429-fejl. Opgrader din forudbetalte kredit for at opretholde prioriteret adgang. I modsætning til delte niveauer lider vores dedikerede servere ikke af nabostøj. Overvåg dit brugsdashboard for at holde dig inden for disse grænser for konsistent ydelse.

Fejlfinding af almindelige fejl

Håndter fejl ved at tjekke HTTP-statuskoden og svarkroppen. En 401-fejl indikerer en ugyldig eller manglende API-nøgle. Regenerer din nøgle fra dashboardet, hvis autentificeringen mislykkes. En 402-fejl betyder, at din forudbetalte kredit er opbrugt; top op via krypto for at genoptage servicen.

En 429-fejl signalerer, at du har overskredet hastighedsgrænserne. Reducer din anmodningsfrekvens, eller fordel arbejdsbyrder på tværs af flere nøgler. API'et opkræver ikke tokens for disse fejl, så du mister ikke kredit for gentagelser. Sørg for, at din klientbibliotek håndterer gentagelser med eksponentiel backoff for robusthed.

cURL

Copycurl https://api.openrouterratelimits.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Process one million logs"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)