Сумісність SDK та налаштування базового URL
Підключіть існуючий код клієнта, вказавши йому на наш виділений ендпоінт. Це API OpenAI сумісний приймає стандартні заголовки та конфігурації SDK без змін у коді. Вам потрібно лише оновити базовий URL та надати свій API-ключ з панелі керування.
https://api.openrouterratelimits.com/v1 є єдиною точкою входу для всіх запитів. Аутентифікація використовує стандартну схему Bearer-токена, яка зустрічається в більшості сучасних бібліотек LLM. Передайте свій ключ у Authorization header для перевірки вашої особи. Ця конфігурація працює з будь-яким клієнтом, який очікує інтерфейс у стилі OpenAI, що робить міграцію миттєвою для команд, які втомилися від прив’язки до постачальника.
- Базовий URL:
https://api.openrouterratelimits.com/v1 - Заголовок Auth:
Authorization: Bearer YOUR_API_KEY - Ідентифікатор моделі:
uncensored
Потокова передача відповідей з SSE
Увімкніть потокову передачу, встановивши stream: true у тілі запиту. API повертає події Server-Sent Events (SSE) для доставки токенів у реальному часі. Кожен фрагмент містить згенерований текст, доки останній фрагмент не включатиме статистику використання. Цей підхід підтримує чутливість вашого інтерфейсу навіть для довгих вікон контексту.
Потокова передача ідеально підходить для чат-інтерфейсів або сценаріїв рольових ігор, де важлива затримка. Вам не потрібно чекати завершення всього відповіді, щоб відобразити текст. Останній фрагмент завжди містить кількість токенів для точної оплати. Помилки під час потокової передачі все одно повертають правильні коди стану HTTP для миттєвої обробки.
Виклик функцій та режим JSON
Використовуйте структурований вивід для надійного виділення даних або інтеграції інструментів. Увімкніть response_format з {"type": "json_object"} щоб забезпечити дотримання формату JSON. Цей режим є суттєвим для парсингу складних вкладених структур без додаткової логіки очищення. Виклик функцій працює поруч із стандартною генерацією тексту для динамічних робочих процесів агентів.
Визначте свої інструменти в tools масив та вказати tool_choice для суворого примусу. Модель повертає виклики функцій у стандартному форматі OpenAI. Ця функція підтримує як одиночні, так і множинні виклики інструментів в межах одного ходу. Використовуйте це для створення агентів, які надійно взаємодіють із зовнішніми API або базами даних.
Керування токенами та параметрами
Керуйте поведінкою генерації за допомогою стандартних параметрів, таких як temperature, top_p, а також stop. Контекстне вікно підтримує до 100,000 токенів для запиту та завершення разом. Це дозволяє обробляти великий історичний контекст або великі документи в одному запиті.
Встановити max_tokens щоб обмежити довжину виводу, за замовчуванням 2 048, якщо не вказано інакше. Модель обробляє presence_penalty та frequency_penalty для стилістичного контролю. Використання токенів нараховується на основі фактичної кількості вхідних та вихідних токенів. Помилки не споживають токени, що забезпечує справедливе билінг для невдалих запитів.
Розуміння обмежень швидкості на ключ
Кожний API-ключ підтримує 300 запитів на хвилину з лімітом паралельності в 8 одночасних запитів. Цей ліміт діє на кожен ключ окремо, тому створення кількох ключів масштабує вашу пропускну здатність лінійно. Максимальний розмір тіла запиту становить 8 МБ, що вміщується в контекстне вікно для більшості сценаріїв використання.
Ліміти швидкості скидаються безперервно на основі ковзного вікна. Якщо ви перевищите ліміт, API поверне помилку 429. Оновіть попередньо оплачений кредит, щоб зберегти пріоритетний доступ. На відміну від спільних тарифів, наші виділені сервери не страждають від «сусіднього шуму». Слідкуйте за панеллю використання, щоб залишатися в межах цих меж для стабільної продуктивності.
Усунення поширених помилок
Обробляйте помилки, перевіряючи код HTTP-статусу та тіло відповіді. Помилка 401 вказує на недійсний або відсутній API-ключ. Згенеруйте новий ключ у панелі керування, якщо виникла проблема з автентифікацією. Помилка 402 означає, що ваш попередньо оплачений кредит вичерпано; поповніть баланс через криптовалюту, щоб продовжити роботу.
Помилка 429 сигналізує про перевищення лімітів швидкості. Зменшіть частоту запитів або розподіліть робоче навантаження між кількома ключами. API не нараховує токени за ці помилки, тому ви не втрачаєте кредит за повторні спроби. Переконайтеся, що ваша бібліотека клієнта обробляє повторні спроби з експоненційним backoff для надійності.
cURL
curl https://api.openrouterratelimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process one million logs"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Потокова передача
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)