Compatibilité SDK et configuration de l'URL de base
Connectez votre code client existant en le pointant vers notre point de terminaison dédié. Ceci API compatible OpenAI accepte les en-têtes standard et les configurations SDK sans modification de code. Vous devez simplement mettre à jour l'URL de base et fournir votre clé API depuis le tableau de bord.
https://api.openrouterratelimits.com/v1 est le point d'entrée unique pour toutes les requêtes. L'authentification utilise le schéma standard de jeton Bearer présent dans la plupart des bibliothèques LLM modernes. Transmettez votre clé dans le Authorization header pour vérifier votre identité. Cette configuration fonctionne avec n'importe quel client attendant une interface de style OpenAI, rendant la migration instantanée pour les équipes lassées du verrouillage fournisseur.
- URL de base :
https://api.openrouterratelimits.com/v1 - En-tête Auth :
Authorization: Bearer YOUR_API_KEY - ID du modèle :
uncensored
Réponses en streaming avec SSE
Activez le streaming en définissant stream: true dans votre charge utile de requête. L'API renvoie des Server-Sent Events (SSE) pour la livraison des jetons en temps réel. Chaque chunk contient le texte généré jusqu'à ce que le dernier chunk inclue les statistiques d'utilisation. Cette approche maintient votre interface utilisateur réactive même pour de grandes fenêtres de contexte.
Le streaming est idéal pour les interfaces de chat ou les scénarios de jeu de rôle où la latence est importante. Vous n'avez pas besoin d'attendre la fin de la complétion pour afficher le texte. Le dernier chunk contient toujours les compteurs de tokens pour une facturation précise. Les erreurs lors du streaming retournent toujours les codes de statut HTTP appropriés pour une gestion immédiate.
Appel de fonctions et mode JSON
Utilisez des sorties structurées pour une extraction fiable des données ou une intégration d'outils. Activez response_format avec {"type": "json_object"} pour forcer la conformité JSON. Ce mode est essentiel pour analyser des structures imbriquées complexes sans logique de nettoyage supplémentaire. L'appel de fonctions fonctionne aux côtés de la génération de texte standard pour des flux de travail d'agents dynamiques.
Définissez vos outils dans la tools tableau et spécifiez tool_choice pour une application stricte. Le modèle renvoie des appels de fonction au format OpenAI standard. Cette fonctionnalité prend en charge les appels d'outils uniques et multiples au sein d'un même tour. Utilisez ceci pour créer des agents qui interagissent de manière fiable avec des API ou des bases de données externes.
Gestion des tokens et des paramètres
Maîtrisez le comportement de génération avec des paramètres standards tels que temperature, top_p, et stop. La fenêtre de contexte prend en charge jusqu'à 100 000 tokens au total pour l'invite et la complétion combinées. Cela permet de gérer un contexte historique étendu ou le traitement de grands documents en une seule requête.
Définir max_tokens pour limiter la longueur de la sortie, avec une valeur par défaut de 2 048 si omis. Le modèle gère presence_penalty et frequency_penalty pour le contrôle stylistique. L'utilisation des jetons est facturée en fonction des comptes réels d'entrée et de sortie. Les erreurs ne consomment pas de jetons, garantissant une facturation équitable pour les requêtes échouées.
Comprendre les limites de débit par clé
Chaque clé API prend en charge 300 requêtes par minute avec une limite de concurrence de 8 requêtes simultanées. Cette limite s'applique par clé, donc créer plusieurs clés met à l'échelle votre débit linéairement. La taille maximale du corps de la requête est de 8 Mo, ce qui s'adapte à la fenêtre de contexte pour la plupart des cas d'utilisation.
Les limites de taux se réinitialisent en continu sur la base d'une fenêtre glissante. Si vous dépassez la limite, l'API renvoie une erreur 429. Mettez à niveau votre crédit prépayé pour maintenir un accès prioritaire. Contrairement aux niveaux partagés, nos serveurs dédiés ne souffrent pas du bruit des voisins. Surveillez votre tableau de bord d'utilisation pour rester dans ces limites pour des performances cohérentes.
Débogage des erreurs courantes
Gérez les erreurs en vérifiant le code de statut HTTP et le corps de la réponse. Une erreur 401 indique une clé API invalide ou manquante. Régénérez votre clé depuis le tableau de bord si l'authentification échoue. Une erreur 402 signifie que votre crédit prépayé est épuisé ; rechargez via crypto pour reprendre le service.
Une erreur 429 signale que vous avez dépassé les limites de taux. Réduisez la fréquence de vos requêtes ou répartissez les charges de travail sur plusieurs clés. L'API ne facture pas les jetons pour ces erreurs, vous ne perdez donc pas de crédit pour les réessais. Assurez-vous que votre bibliothèque client gère les réessais avec une rétroaction exponentielle pour une meilleure robustesse.
cURL
curl https://api.openrouterratelimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process one million logs"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streaming
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)