OpenRouter hastighetsbegränsningar: Snabbstartsguide

SDK-kompatibilitet och inställning av bas-URL

Anslut din befintliga klientkod genom att peka den mot vår dedikerade slutpunkt. Detta openai kompatibel API accepterar standardhuvuden och SDK-konfigurationer utan kodändringar. Du behöver bara uppdatera bas-URL:en och ange din API-nyckel från kontrollpanelen.

https://api.openrouterratelimits.com/v1 är den enda ingångspunkten för alla begäranden. Autentisering använder det standardiserade Bearer-token-sättet som finns i de flesta moderna LLM-bibliotek. Skicka din nyckel i Authorization header för att verifiera din identitet. Denna konfiguration fungerar med alla klienter som förväntar sig ett OpenAI-gränssnitt, vilket gör migrationen omedelbar för team som är trötta på leverantörsbindning.

• Bas-URL: https://api.openrouterratelimits.com/v1
• Auth-huvud: Authorization: Bearer YOUR_API_KEY
• Modell-ID: uncensored

Strömsvar med SSE

Aktivera strömning genom att ställa in stream: true i din begäranspayload. API:et returnerar Server-Sent Events (SSE) för realtidsleverans av token. Varje del innehåller genererad text tills den sista delen inkluderar användningsstatistik. Denna metod håller ditt gränssnitt responsivt även för långa kontextfönster.

Streaming är idealiskt för chattgränssnitt eller rollspels scenarier där latens är viktig. Du behöver inte vänta på att hela svaret ska vara klart för att visa text. Den sista biten innehåller alltid tokenräkningen för korrekt fakturering. Fel under streaming returnerar fortfarande korrekta HTTP-statuskoder för omedelbar hantering.

Function calling och JSON-läge

Använd strukturerade utdata för pålitlig dataextraktion eller verktygsintegration. Aktivera response_format med {"type": "json_object"} för att tvinga fram JSON-kompatibilitet. Detta läge är nödvändigt för att parsning av komplexa nästlade strukturer utan extra städlogik. Functon calling fungerar tillsammans med standard textgenerering för dynamiska agentflöden.

Definiera dina verktyg i tools array och specificera tool_choice för strikt upprätthållande. Modellen returnerar funktionsanrop i standard OpenAI-format. Denna funktion stöder både enkla och flera verktygsanrop inom ett enda varv. Använd detta för att bygga agenter som interagerar med externa API:er eller databaser på ett tillförlitligt sätt.

Hantering av tokens och parametrar

Styr genereringsbeteendet med standardparametrar som temperature, top_p, och stop. Kontextfönstret stöder upp till 100,000 token för prompt och komplettering kombinerat. Detta möjliggör omfattande historisk kontext eller stor dokumentbearbetning i en enda begäran.

Ställ in max_tokens att begränsa utdatalängd, med standardvärdet 2 048 om det utelämnas. Modellen hanterar presence_penalty och frequency_penalty för stilistisk kontroll. Tokenanvändning debiteras baserat på faktiska in- och utdataantal. Fel konsumerar inte tokens, vilket säkerställer rättvis fakturering för misslyckade begäranden.

Förstå rate limits per nyckel

Varje API-nyckel stödjer 300 förfrågningar per minut med en samtidighetsgräns på 8 parallella förfrågningar. Denna gräns gäller per nyckel, så att skapa flera nyckel skalar din genomströmning linjärt. Den maximala storleken på förfrågningsbodyn är 8 MB, vilket rymms inom contextfönstret för de flesta användningsfall.

Ratebegränsningar återställs kontinuerligt baserat på ett glidande fönster. Om du överskrider gränsen returnerar API:et ett 429-fel. Uppgradera ditt förbetala kredit för att behålla prioritetstillgång. Till skillnad från delade nivåer lider våra dedikerade servrar inte av grannbuller. Övervaka din användningsdashboard för att hålla dig inom dessa gränser för konsekvent prestanda.

Felsökning vanliga fel

Hantera fel genom att kontrollera HTTP-statuskoden och svarskroppen. Ett 401-fel indikerar en ogiltig eller saknad API-nyckel. Återskapa din nyckel från dashboardet om autentiseringen misslyckas. Ett 402-fel betyder att ditt förbetalda kredit är slut; ladda upp via krypto för att återuppta tjänsten.

Ett 429-fel signalerar att du har överskridit hastighetsbegränsningarna. Minska din begäranfrekvens eller dela arbetsbelastningar över flera nycklar. API:en debiterar inte tokens för dessa fel, så du förlorar inte kredit för försök igen. Se till att din klientbibliotek hanterar försök igen med exponentiell backoff för robusthet.

cURL

Copycurl https://api.openrouterratelimits.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Process one million logs"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strömning

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)