Краткое описание спецификации
Если у вас уже есть код, работающий с OpenAI, краткая версия спецификации API, совместимого с OpenAI, такова: измените базовый URL, измените ключ, установите модель в uncensored. Тела запросов и ответов соответствуют формату chat completions, поэтому SDK обрабатывают их без изменений.
| Пункт | Значение |
|---|---|
| Базовый URL | https://api.unrestrictedaiapi.com/v1 |
| Аутентификация | Authorization: Bearer YOUR_KEY |
| Эндпоинты | POST /v1/chat/completions, GET /v1/models |
| ID модели | uncensored |
| Контекстное окно | 100 000 токенов, промпт плюс ответ |
| Максимальный размер тела запроса | 8 МБ |
| Вывод | Только текст |
Это одна модель с открытыми весами, которую запускает независимый провайдер, настроенная на ответы без отказов по контенту для законного использования взрослыми. Это не официальный эндпоинт ни одного вендора моделей, и он не маршрутизирует запросы между вендорами. Вот почему существует один идентификатор модели и почему список моделей короткий.
Эндпоинты
GET /v1/models
Возвращает модели, доступные для вашего ключа. Это самый экономичный способ подтвердить, что ваш ключ и базовый URL верны, и многие UI-клиенты вызывают его для заполнения выпадающего списка.
curl https://api.unrestrictedaiapi.com/v1/models \
-H "Authorization: Bearer $KEY"
POST /v1/chat/completions
Единственный эндпоинт генерации. Вы отправляете массив объектов messages с полем role (system, user, assistant или tool) и content, а также модель и любые опции сэмплинга. Минимальный вызов:
curl https://api.unrestrictedaiapi.com/v1/chat/completions \
-H "Authorization: Bearer $KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "Answer in one sentence."},
{"role": "user", "content": "What is a base URL?"}
]
}'
Ответ содержит сгенерированный текст в choices[0].message.content и подсчет токенов в usage. Эти подсчеты являются основой для биллинга.
Не предлагаются: устаревший эндпоинт completions, эмбеддинги, изображения, аудио и видео, дообучение и файловые эндпоинты. Клиент, который их вызовет, получит ошибку, поэтому отключите эти функции в инструментах, которые по умолчанию их используют.
Параметры запроса
Принимаются и передаются модели следующие параметры:
temperatureиtop_pдля выборки.stopдля одной или нескольких последовательностей остановки.seedдля воспроизводимого сэмплирования при сохранении остальных параметров.presence_penaltyиfrequency_penaltyдля снижения повторений.max_tokens, необязательный параметр. Если его не указать, ответ может использовать оставшуюся часть контекстного окна в 100 000 токенов.streamдля потоковой передачи через серверные события (SSE).toolsиtool_choiceдля вызова функций.response_formatс{"type":"json_object"}для JSON-режима.
Два практических замечания. Во-первых, контекстное окно считает промпт и ответ вместе, поэтому промпт на 90 000 токенов оставляет около 10 000 токенов для ответа. Во-вторых, лимит тела запроса составляет 8 МБ, что значительно превышает потребность в 100 000 токенов текста, поэтому вы достигаете его, только добавляя в сообщения большие закодированные полезные нагрузки.
Потоковая передача
Установите stream: true, и ответ придет в виде серверных событий. Каждое событие — это JSON-фрагмент с полем delta, содержащим следующую часть текста, а данные об использовании сообщаются в конце потока. SDK скрывают фрейминг; при работе с сырым протоколом вы читаете строки, начинающиеся с data:, пока поток не закроется.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedaiapi.com/v1", api_key="YOUR_KEY")
with client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List five HTTP status codes."}],
stream=True,
) as stream:
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
Одно правило влияет на планирование емкости: потоковый запрос удерживает слот параллельности до конца потока, а не до получения первого токена. Если клиент зависает при чтении, он продолжает занимать слот. Всегда закрывайте или завершайте поток и устанавливайте тайм-аут клиента.
Вызов инструментов и JSON-режим
Вызов функций
Передавайте tools как список определений функций с параметрами JSON Schema. Если модель решит вызвать функцию, сообщение будет содержать tool_calls, которые также передаются потоком, если включен stream. Вы выполняете функцию и отправляете ее результат обратно как сообщение с role: "tool" и соответствующим tool_call_id. Используйте tool_choice, чтобы принудительно вызвать определенную функцию или оставить выбор за моделью.
{
"model": "uncensored",
"messages": [{"role": "user", "content": "Weather in Oslo?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Current weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}
Модель предлагает аргументы; она ничего не исполняет. Проверяйте их перед действием, как и любой пользовательский ввод.
JSON-режим
Добавьте "response_format": {"type": "json_object"}, чтобы запросить один допустимый объект JSON. Как и в других реализациях в стиле OpenAI, также укажите модели в промпте, какие ключи вам нужны, например «Верните объект с ключами title и tags». Все равно парсите результат в блоке try и оставляйте max_tokens достаточным, чтобы длинный объект не был обрезан.
Лимиты, заголовки и ошибки
| Тип ключа | Параллельные запросы | Запросов в минуту |
|---|---|---|
| Полный ключ | 8 | 300 |
| Пробный ключ | 2 | 60 |
Каждый ответ включает заголовок X-Request-Id (укажите его при обращении в поддержку), X-Balance-USD (ваш оставшийся баланс), X-RateLimit-Limit-Requests и X-RateLimit-Limit-Concurrency.
При превышении лимита API возвращает HTTP 429. Код ошибки разделяет случаи:
rate_limited: слишком много запросов за минуту. Замедлите темп или распределите нагрузку.concurrency: слишком много запросов одновременно. Поставьте их в очередь на своей стороне.- 429 с заголовком
Retry-After: 5: временная перегрузка. Подождите пять секунд и повторите запрос.
import time
import httpx
def post_with_retry(payload, key, tries=4):
# payload example: {"model": "uncensored", "messages": [...]}
for attempt in range(tries):
r = httpx.post(
"https://api.unrestrictedaiapi.com/v1/chat/completions",
headers={"Authorization": "Bearer " + key},
json=payload,
timeout=120,
)
if r.status_code == 429:
wait = int(r.headers.get("Retry-After", 2 ** attempt))
time.sleep(wait)
continue
return r
return r
Неудачные или отклоненные запросы не оплачиваются.
Роли, история и объект ответа
API не сохраняет состояние. Он не запоминает предыдущие запросы, поэтому разговор существует только как массив messages, который вы отправляете каждый раз. Обычная история начинается с одного сообщения system, задающего поведение, за которым следуют чередующиеся сообщения user и assistant. Когда используется вызов функций, между ними появляются сообщения tool, каждое из которых связано с вызовом, на который оно отвечает, через tool_call_id.
Это имеет два следствия. Первое — стоимость: каждый ход оплачивается по полной стоимости истории как входных данных, поэтому длинный чат становится дороже за сообщение, даже если каждый вопрос короткий. Второе — контроль: вы можете редактировать, сокращать или переписывать историю по желанию. Удаление старых ходов, замена их сводкой или внедрение исправленного сообщения ассистента — все это обычные операции, и модель воспринимает то, что вы отправляете, как истину.
При получении ответа прочтите три вещи. choices[0].message содержит текст или вызовы функций. choices[0].finish_reason указывает причину завершения генерации: естественный конец, лимит токенов или вызов функции. usage содержит подсчеты токенов промпта, ответа и общего количества. Если finish_reason указывает на превышение лимита токенов, текст обрезан, и вам следует либо увеличить лимит, либо попросить модель продолжить в следующем ходе.
Краткий чек-лист совместимости
Перед выпуском клиента для этого эндпоинта пройдите по этим проверкам. Они выявляют большинство проблем интеграции за несколько минут.
- Вызовите
GET /v1/modelsс вашим ключом и подтвердите, что получаете список, включающийuncensored. - Отправьте обычный запрос чата без параметров и подтвердите нормальный ответ с блоком
usage. - Повторите его с
stream: trueи подтвердите, что ваш клиент обрабатывает конец потока и итоговые данные об использовании. - Если вы используете инструменты, отправляйте один полный цикл запроса и ответа, включая последующий запрос с сообщением
tool. - Отправьте 10 запросов одновременно для пробного ключа и убедитесь, что ваш код справляется с ошибкой 429, которая следует за вторым параллельным запросом.
- Фиксируйте
X-Request-Idдля каждого вызова, чтобы любой странный результат можно было отследить позже.
Прохождение всех шести пунктов означает, что ваш клиент готов к реальной нагрузке.
Чем это отличается от полной платформы OpenAI
Совместимость означает протокол чата, а не всю платформу. Всё, что выходит за рамки текстового чата, отсутствует, а некоторые особенности поведения исходят от модели, а не от протокола. Имя модели фиксировано, ответы могут отличаться по стилю от любых моделей, которые вы использовали ранее, а генерация с тем же seed воспроизводима только при условии, что промпт и параметры остаются неизменными.
Единственное правило контента, которое вы не можете изменить: контент сексуального характера с участием несовершеннолетних заблокирован. В остальном модель настроена так, чтобы избегать отказов для законного использования взрослыми, а промпты не используются для обучения.
Примеры кода на пяти языках см. в быстром старте, о методах промптов читайте в промптах для модели без цензуры, а в разделе тарифов указаны ставки: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, при этом кредит не сгорает. В документации приведено краткое описание спецификации.
