SDK compatibility and base URL setup
Conectați-vă codul client existent indicându-l către endpoint-ul nostru dedicat. Acest API compatibilă openai acceptă antete standard și configurații SDK fără modificări de cod. Trebuie doar să actualizezi URL-ul de bază și să furnizezi cheia API din panoul de control.
https://api.openrouterratelimits.com/v1 este punctul unic de intrare pentru toate solicitările. Autentificarea utilizează schema standard de token Bearer găsită în cele mai multe biblioteci LLM moderne. Trimiteți-vă cheia în Authorization header pentru a-ți verifica identitatea. Această configurare funcționează cu orice client care așteaptă o interfață de tip OpenAI, făcând migrarea instantanee pentru echipele obosite de lock-in-ul furnizorului.
- URL de bază:
https://api.openrouterratelimits.com/v1 - Header Auth:
Authorization: Bearer YOUR_API_KEY - ID Model:
uncensored
Răspunsuri în flux cu SSE
Activați streaming-ul setând stream: true în payload-ul solicitării. API-ul returnează Evenimente trimise de server (SSE) pentru livrarea tokenilor în timp real. Fiecare bucată conține textul generat până când ultima bucată include statisticile de utilizare. Această abordare menține interfața utilizatorului receptivă chiar și pentru ferestre de context lungi.
Streaming-ul este ideal pentru interfețe de chat sau scenarii de roleplay unde latența contează. Nu trebuie să aștepți ca întregul răspuns să fie generat pentru a afișa textul. Ultimul fragment conține întotdeauna numărul de tokeni pentru facturarea precisă. Erorile în timpul streaming-ului returnează totuși coduri de stare HTTP corecte pentru gestionarea imediată.
Function calling și modul JSON
Folosește output-urile structurate pentru extragerea fiabilă a datelor sau integrarea de instrumente. Activează response_format cu {"type": "json_object"} pentru a forța conformitatea JSON. Această modalitate este esențială pentru parsarea structurilor complexe imbricate fără logică suplimentară de curățare. Apelarea de funcții funcționează alături de generarea standard de text pentru fluxuri de lucru dinamice ale agenților.
Definește-ți instrumentele în tools array și specifică tool_choice pentru aplicare strictă. Modelul returnează apeluri de funcții în formatul standard OpenAI. Această funcție suportă atât apeluri unice, cât și multiple de tool-uri într-un singur rând. Folosește acest lucru pentru a construi agenți care interacționează cu API-uri externe sau baze de date în mod fiabil.
Gestionarea tokenilor și a parametrilor
Controlează comportamentul de generare cu parametri standard precum temperature, top_p, și stop. Fereastra de context suportă până la 100.000 de tokeni pentru prompt și completarea combinate. Acest lucru permite un context istoric extins sau procesarea documentelor mari într-o singură solicitare.
Setează max_tokens limitarea lungimii ieșirii, cu o valoare implicită de 2.048 dacă este omisă. Modelul gestionează presence_penalty și frequency_penalty pentru control stilistic. Utilizarea tokenilor se facturează pe baza numărului real de input și output. Erorile nu consumă tokeni, asigurând o facturare corectă pentru cererile eșuate.
Înțelegerea limitelor de rată pe cheie
Fiecare cheie API suportă 300 de cereri pe minut cu o limită de concurență de 8 cereri simultane. Această limită se aplică per cheie, așa că crearea mai multor chei scalează throughput-ul dumneavoastră liniar. Dimensiunea maximă a corpului cererii este de 8 MB, ceea ce se încadrează în fereastra de context pentru majoritatea cazurilor de utilizare.
Limitările de rată se resetează continuu pe baza unei ferestre glisante. Dacă depășești limita, API-ul returnează un error 429. Upgrade-uiește-ți creditul preplătit pentru a menține accesul prioritar. Spre deosebire de nivelurile partajate, serverele noastre dedicate nu suferă din cauza zgomotului vecinilor. Monitorizează-ți panoul de utilizare pentru a rămâne în aceste limite pentru o performanță consistentă.
Depanarea erorilor comune
Gestionați erorile verificând codul de stare HTTP și corpul răspunsului. O eroare 401 indică o cheie API invalidă sau lipsă. Regenerați cheia din panou dacă autentificarea eșuează. O eroare 402 înseamnă că creditul preplătit s-a epuizat; reîncărcați prin cripto pentru a relua serviciul.
Eroarea 429 semnalează că ai depășit limitele de rată. Reduce frecvența cererilor sau împarte sarcinile de lucru între mai multe chei. API-ul nu chargeuiește tokeni pentru aceste erori, așa că nu îți pierzi creditul pentru reîncercări. Asigură-te că biblioteca ta client gestionează reîncercările cu backoff exponențial pentru robustețe.
cURL
curl https://api.openrouterratelimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process one million logs"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streaming
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)