SDK-Kompatibilität und Einrichtung der Basis-URL
Verbinde deinen bestehenden Client-Code, indem du ihn auf unseren dedizierten Endpunkt richtest. Dies open AI-kompatible API Akzeptiert Standard-Header und SDK-Konfigurationen ohne Codeänderungen. Sie müssen nur die Basis-URL aktualisieren und Ihren API-Schlüssel aus dem Dashboard angeben.
https://api.openrouterratelimits.com/v1 ist der einzige Einstiegspunkt für alle Anfragen. Die Authentifizierung verwendet das Standard-Bearer-Token-Schema, das in den meisten modernen LLM-Bibliotheken üblich ist. Übergeben Sie Ihren Schlüssel im Authorization header, um Ihre Identität zu überprüfen. Diese Einrichtung funktioniert mit jedem Client, der eine OpenAI-ähnliche Schnittstelle erwartet, was die Migration für Teams, die von der Anbieterbindung müde sind, sofort macht.
- Base URL:
https://api.openrouterratelimits.com/v1 - Auth-Header:
Authorization: Bearer YOUR_API_KEY - Modell-ID:
uncensored
Streaming-Antworten mit SSE
Aktivieren Sie Streaming, indem Sie stream: true in Ihrem Anfrage-Payload. Die API gibt Server-Sent Events (SSE) für die Echtzeit-Token-Auslieferung zurück. Jedes Chunk enthält den generierten Text, bis das letzte Chunk die Nutzungsstatistiken enthält. Dieser Ansatz hält Ihre Benutzeroberfläche auch bei langen Kontextfenstern reaktionsfähig.
Streaming ist ideal für Chat-Schnittstellen oder Rollenspiel-Szenarien, bei denen Latenz eine Rolle spielt. Sie müssen nicht auf die vollständige Antwort warten, um Text anzuzeigen. Das letzte Chunk enthält immer die Token-Anzahlen für eine genaue Abrechnung. Fehler während des Streamings geben dennoch korrekte HTTP-Statuscodes zurück, um eine sofortige Behandlung zu ermöglichen.
Function Calling und JSON-Modus
Nutzen Sie strukturierte Ausgaben für zuverlässige Datenextraktion oder Tool-Integration. Aktivieren Sie response_format mit {"type": "json_object"} um JSON-Konformität zu erzwingen. Dieser Modus ist wesentlich für das Parsing komplexer verschachtelter Strukturen ohne zusätzliche Bereinigungslogik. Function Calling funktioniert neben der normalen Textgenerierung für dynamische Agenten-Workflows.
Definieren Sie Ihre Tools in der tools Array und angeben tool_choice für strenge Durchsetzung. Das Modell gibt Funktionsaufrufe im Standard-OpenAI-Format zurück. Dieses Feature unterstützt sowohl einzelne als auch mehrere Tool-Aufrufe innerhalb eines einzelnen Durchlaufs. Verwenden Sie dies für den Aufbau von Agents, die zuverlässig mit externen APIs oder Datenbanken interagieren.
Verwaltung von Tokens und Parametern
Steuern Sie das Generierungsverhalten mit Standardparametern wie temperature, top_p, und stop. Das Kontextfenster unterstützt bis zu 100.000 Tokens für Prompt und Vervollständigung kombiniert. Dies ermöglicht umfangreichen historischen Kontext oder die Verarbeitung großer Dokumente in einer einzigen Anfrage.
Festlegen max_tokens die Ausgabelänge zu begrenzen, mit einem Standardwert von 2.048, falls nicht angegeben. Das Modell verarbeitet presence_penalty und frequency_penalty für stilistische Kontrolle. Die Token-Nutzung wird basierend auf den tatsächlichen Eingabe- und Ausgabezahlen berechnet. Fehler verbrauchen keine Tokens, was eine faire Abrechnung für fehlgeschlagene Anfragen gewährleistet.
Verständnis der Ratenbegrenzungen pro Schlüssel
Jeder API-Schlüssel unterstützt 300 Anfragen pro Minute mit einem Concurrency-Limit von 8 gleichzeitigen Anfragen. Dieses Limit gilt pro Schlüssel, sodass das Erstellen mehrerer Schlüssel Ihren Durchsatz linear skaliert. Die maximale Größe des Anfragekörpers beträgt 8 MB, was innerhalb des Kontextfensters für die meisten Anwendungsfälle passt.
Ratenbegrenzungen werden kontinuierlich basierend auf einem gleitenden Fenster zurückgesetzt. Wenn Sie das Limit überschreiten, gibt die API einen 429-Fehler zurück. Aktualisieren Sie Ihre Prepaid-Guthaben, um den Prioritätszugang aufrechtzuerhalten. Im Gegensatz zu Shared-Tiers leiden unsere dedizierten Server nicht unter Störungen durch andere Nutzer. Überwachen Sie Ihr Nutzungs-Dashboard, um innerhalb dieser Grenzen für eine konsistente Leistung zu bleiben.
Fehlerbehebung bei häufigen Fehlern
Behandeln Sie Fehler durch Überprüfung des HTTP-Statuscodes und des Antwort-Bodys. Ein 401-Fehler weist auf einen ungültigen oder fehlenden API-Schlüssel hin. Generieren Sie Ihren Schlüssel im Dashboard neu, wenn die Authentifizierung fehlschlägt. Ein 402-Fehler bedeutet, dass Ihr vorausbezahltes Guthaben aufgebraucht ist; laden Sie es über Kryptowährungen auf, um den Dienst fortzusetzen.
Ein 429-Fehler signalisiert, dass Sie die Limits erreicht haben. Reduzieren Sie Ihre Anfragehäufigkeit oder verteilen Sie Arbeitslasten auf mehrere Schlüssel. Die API berechnet keine Tokens für diese Fehler, sodass Sie kein Guthaben für Wiederholungen verlieren. Stellen Sie sicher, dass Ihre Client-Bibliothek Wiederholungen mit exponentiellem Backoff für Robustheit behandelt.
cURL
curl https://api.openrouterratelimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process one million logs"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streaming
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)