Совместимость с SDK и настройка базового URL
Подключите ваш существующий клиентский код, указав ему на наш выделенный эндпоинт. Этот openai compatible API принимает стандартные заголовки и конфигурации SDK без изменений в коде. Вам нужно только обновить базовый URL и предоставить свой API-ключ из панели управления.
https://api.openrouterratelimits.com/v1 является единой точкой входа для всех запросов. Аутентификация использует стандартную схему токена Bearer, применяемую в большинстве современных библиотек LLM. Передайте свой ключ в Authorization Заголовок для подтверждения личности. Эта настройка работает с любым клиентом, ожидающим интерфейс в стиле OpenAI, что делает миграцию мгновенной для команд, уставших от привязки к вендору.
- Базовый URL:
https://api.openrouterratelimits.com/v1 - Заголовок Auth:
Authorization: Bearer YOUR_API_KEY - Идентификатор модели:
uncensored
Потоковая передача ответов с SSE
Включите потоковую передачу, установив stream: true в полезной нагрузке запроса. API возвращает события серверных событий (SSE) для доставки токенов в реальном времени. Каждый фрагмент содержит сгенерированный текст, пока последний фрагмент не включит статистику использования. Этот подход поддерживает отзывчивость пользовательского интерфейса даже для длинных контекстных окон.
Потоковая передача идеально подходит для интерфейсов чата или сценариев ролевой игры, где важна задержка. Вам не нужно ждать завершения всего ответа, чтобы начать отображать текст. В последнем фрагменте всегда содержатся подсчёты токенов для точного выставления счетов. Ошибки во время потоковой передачи всё равно возвращают корректные коды состояния HTTP для немедленной обработки.
Вызов функций и режим JSON
Используйте структурированные выводы для надежного извлечения данных или интеграции инструментов. Включите response_format с {"type": "json_object"} чтобы обеспечить соответствие JSON. Этот режим необходим для парсинга сложных вложенных структур без дополнительной логики очистки. Вызов функций работает вместе со стандартной генерацией текста для динамических рабочих процессов агентов.
Определите свои инструменты в tools массив и указать tool_choice для строгого принуждения. Модель возвращает вызовы функций в стандартном формате OpenAI. Эта функция поддерживает как одиночные, так и множественные вызовы инструментов в рамках одного хода. Используйте это для создания агентов, которые надежно взаимодействуют с внешними API или базами данных.
Управление токенами и параметрами
Управляйте поведением генерации с помощью стандартных параметров, таких как temperature, top_p, и stop. Контекстное окно поддерживает до 100,000 токенов для промпта и завершения в сумме. Это позволяет обрабатывать обширный исторический контекст или большие документы в одном запросе.
Установить max_tokens для ограничения длины вывода, по умолчанию 2 048, если не указано. Модель обрабатывает presence_penalty и frequency_penalty для стилистического контроля. Использование токенов оплачивается на основе фактического количества входных и выходных токенов. Ошибки не расходуют токены, обеспечивая справедливую оплату за неудачные запросы.
Понимание ограничений частоты запросов на ключ
Каждый API-ключ поддерживает 300 запросов в минуту с лимитом параллельных запросов в 8 одновременных запросов. Этот лимит применяется к каждому ключу, поэтому создание нескольких ключей масштабирует вашу пропускную способность линейно. Максимальный размер тела запроса составляет 8 МБ, что помещается в контекстное окно для большинства сценариев использования.
Лимиты сбрасываются непрерывно на основе скользящего окна. Если вы превысите лимит, API вернет ошибку 429. Увеличьте предоплаченный кредит, чтобы сохранить приоритетный доступ. В отличие от общих тарифов, наши выделенные серверы не страдают от «шума» соседей. Отслеживайте панель использования, чтобы оставаться в этих пределах для стабильной производительности.
Устранение распространенных ошибок
Обрабатывайте ошибки, проверяя код состояния HTTP и тело ответа. Ошибка 401 указывает на недействительный или отсутствующий API-ключ. Сгенерируйте новый ключ в панели управления, если аутентификация не удалась. Ошибка 402 означает, что ваши предоплаченные средства исчерпаны; пополните баланс через криптовалюту, чтобы возобновить работу сервиса.
Ошибка 429 сигнализирует о превышении лимитов частоты запросов. Уменьшите частоту запросов или распределите нагрузку между несколькими ключами. API не начисляет токены за эти ошибки, поэтому вы не теряете кредит за повторные попытки. Убедитесь, что ваша клиентская библиотека обрабатывает повторные попытки с экспоненциальным замедлением для надежности.
cURL
curl https://api.openrouterratelimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process one million logs"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterratelimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterratelimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Потоковая передача
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)