RU ▾
Uncensored Chatbot APIПрямой API-доступ к LLM без цензурыПолучить API-ключ

Uncensored Chatbot APIБезопасность

Интеграция API чат-бота: подключите эндпоинт чата в ваше приложение

Интеграция API чат-бота имеет одно правило, которое нельзя пропустить: браузер никогда не хранит API-ключ. Поставьте небольшой бэкенд-прокси посередине, передавайте через него ответы, а остальное — обычная веб-разработка.

Обновлено

Стеклянный канал, соединяющий куб браузера и куб сервера через заблокированный шлюз, показывающий прокси чата на бэкенде

Ключевые моменты

  • Браузер общается с вашим сервером; ваш сервер общается с API чата с ключом.
  • Используйте потоковую передачу с server-sent событиями, чтобы ответы появлялись слово за словом.
  • Ограничьте историю, установите лимиты на пользователя и обрабатывайте ответы 429 с короткой задержкой.
  • Эндпоинт совместим с OpenAI, поэтому официальный SDK работает после изменения базового URL.

Шаблон на одной картинке

Каждая безопасная интеграция API чат-бота выглядит одинаково сверху. Страница в браузере отправляет сообщение пользователя на ваш собственный эндпоинт. Ваш сервер добавляет системный промпт, обрезает историю, прикрепляет API-ключ и перенаправляет вызов. Ответ потоком передаётся обратно тем же способом.

Browser  --POST /api/chat-->  Your server  --POST /v1/chat/completions-->  Chat API
Browser  <--SSE stream------  Your server  <--SSE stream-----------------  Chat API

Прокси существует по четырем причинам: он скрывает ключ, позволяет проверять, кто вызывает, позволяет ограничивать стоимость для каждого пользователя и дает вам одно место для изменения настроек модели в будущем. Ключ, размещенный во фронтенд-JavaScript, становится публичным в момент загрузки страницы, и кто-то другой потратит ваш предоплаченный баланс.

API следует формату OpenAI. Базовый URL — https://api.uncensoredchatbotapi.com/v1, модель — uncensored, аутентификация — Authorization: Bearer YOUR_KEY. Получите ключ на странице ключей.

Шаг 1: серверный прокси

Этот Express-сервер принимает диалог, добавляет системный промпт, вызывает API с потоковой передачей и перенаправляет текст. Установите зависимости с помощью npm i express openai и задайте CHAT_API_KEY в переменных окружения.

import express from "express";
import OpenAI from "openai";

const app = express();
app.use(express.json({ limit: "200kb" }));
app.use(express.static("public"));

const client = new OpenAI({
  baseURL: "https://api.uncensoredchatbotapi.com/v1",
  apiKey: process.env.CHAT_API_KEY,
});

const SYSTEM = "You are a helpful companion for adults. Keep replies under 150 words.";

app.post("/api/chat", async (req, res) => {
  const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
  const clean = incoming
    .filter((m) => ["user", "assistant"].includes(m.role) && typeof m.content === "string")
    .slice(-20)
    .map((m) => ({ role: m.role, content: m.content.slice(0, 4000) }));

  res.writeHead(200, { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" });
  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SYSTEM }, ...clean],
      stream: true,
    });
    for await (const part of stream) {
      const t = part.choices[0]?.delta?.content;
      if (t) res.write(`data: ${JSON.stringify(t)}\n\n`);
    }
    res.write("data: [DONE]\n\n");
  } catch (e) {
    res.write(`event: error\ndata: ${JSON.stringify(e.status === 429 ? "busy" : "failed")}\n\n`);
  }
  res.end();
});

app.listen(3000);

Обратите внимание на фильтр. Клиент может отправить что угодно, поэтому сервер сохраняет только сообщения user и assistant, усечает каждое и игнорирует любое сообщение system, которое пытается внедрить браузер. Системный промпт всегда приходит из вашего кода.

Шаг 2: сторона браузера

Браузер читает поток с помощью fetch и добавляет текст по мере поступления. Библиотека не требуется.

const messages = [];

async function send(text, out) {
  messages.push({ role: "user", content: text });
  const res = await fetch("/api/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ messages }),
  });

  const reader = res.body.getReader();
  const dec = new TextDecoder();
  let reply = "", buf = "";

  while (true) {
    const { done, value } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const events = buf.split("\n\n");
    buf = events.pop();
    for (const ev of events) {
      if (ev === "data: [DONE]") break;
      if (ev.startsWith("data: ")) {
        reply += JSON.parse(ev.slice(6));
        out.textContent = reply;
      }
    }
  }
  messages.push({ role: "assistant", content: reply });
}

Буфер имеет значение. Сетевые фрагменты не совпадают с границами событий, поэтому вы разбиваете их по пустой строке и сохраняете незавершенный хвост для следующего чтения. Для пошагового руководства по самой странице см. руководство по веб-чату, а для более широкой картины добавления бота на сайт — как реализовать чат-бота на сайте.

Лимиты, ошибки и повторные попытки

Полный ключ позволяет 8 параллельных запросов и 300 в минуту. Пробный ключ позволяет 2 и 60. Потоковый запрос занимает слот до завершения потока, поэтому с 8 слотами вы можете обслуживать не более 8 одновременных ответов. Если на вашем сайте больше одновременных пользователей, чем это, ставьте запросы в очередь на сервере и отвечайте «одну минуту» вместо ошибки.

  • 429 с concurrency: слишком много запросов в обработке. Поставьте в очередь и повторите попытку.
  • 429 с rate_limited: слишком много запросов в минуту. Уменьшите частоту запросов.
  • 429 с заголовком Retry-After: 5: временная перегрузка. Подождите 5 секунд и попробуйте снова.
  • 401: неверный или отсутствующий ключ.
  • Тело выше 8 МБ: отклонено, поэтому обрежьте то, что вы отправляете.

Добавьте крошечный счетчик в памяти, чтобы ваш собственный сервер никогда не открывал более 8 потоков к вышестоящему сервису:

let active = 0;
const MAX = 8;

app.use("/api/chat", (req, res, next) => {
  if (active >= MAX) return res.status(503).json({ error: "busy" });
  active++;
  res.on("close", () => { active--; });
  next();
});

Зарегистрируйте это промежуточное ПО перед маршрутом чата. Событие close срабатывает, когда ответ заканчивается или пользователь уходит, поэтому счетчик не утекает.

Контролируйте стоимость каждого диалога

Цена составляет $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов. Поскольку каждый ход пересылает историю, лимит истории — ваш главный рычаг. С последними 20 сообщениями примерно по 60 токенов каждое плюс системный промпт в 100 токенов, запрос содержит около 1 300 входных токенов. Ответ в 150 токенов добавляет выходные.

Стоимость за ход: 1 300 / 1 000 000 x $0,15 = $0,000195, плюс 150 / 1 000 000 x $0,50 = $0,000075, итого $0,00027. Сессия из 30 ходов такого размера стоит не более $0,0081, так как ранние ходы короче. Лимиты на пользователя в день, например 100 сообщений, ограничивают ваш худший случай до 100 x $0,00027 = $0,027 на пользователя в день. Подробнее о ценообразании бота на сайте читайте на странице стоимость чат-бота на сайте и используйте документацию для таких параметров, как max_tokens.

Кто вызывает ваш прокси

Прокси защищает ключ, но он также становится бесплатным эндпоинтом чата для любого, кто найдет URL. Решите, кто может его использовать, перед запуском.

Для публичного сайта обычным ответом является подписанный сеансовый cookie, установленный при входе. Проверяйте его в начале маршрута и возвращайте 401, если он отсутствует. Для быстрого прототипа лимит на основе IP с пакетом express-rate-limit лучше, чем ничего, хотя общие сети делают лимиты по IP неточными. Что бы вы ни выбрали, считайте сообщения на пользователя, а не на соединение, и храните счет там, где перезапуск не сбросит его.

Храните историю диалога на сервере, когда приложение вырастет. Отправка всей истории из браузера на каждом ходу легко реализуется, но пользователи могут её редактировать. Храните сообщения в базе данных под идентификатором беседы, загружайте последние 20 на каждом запросе и добавляйте ответ после окончания потока. Это также позволяет пользователю закрыть вкладку и вернуться к тому же чату.

Перед запуском

Короткий чек-лист сохраняет день запуска спокойным.

  1. Ключ живет только в переменной окружения на сервере, и репозиторий не содержит его.
  2. Сервер игнорирует любое системное сообщение от клиента.
  3. У каждого пользователя есть лимит сообщений в день и лимит длины сообщения.
  4. Ошибки показывают дружелюбное сообщение и никогда не печатают внутренние детали.
  5. Вы логируете идентификаторы запросов из заголовка X-Request-Id и количества токенов, а не полный текст.
  6. Вы отслеживаете заголовок X-Balance-USD и получаете уведомление, когда кредиты начинают заканчиваться.
  7. Ваши условия указывают на аудиторию только для взрослых, и бот никогда не генерирует сексуальный контент с участием несовершеннолетних.

Последний пункт также содержится в руководстве по безопасности взрослых чат-ботов. Модель, лежащая в основе этого API, настроена на ответы без отказов в генерации контента для законного использования взрослыми, что делает ваши правила возрастной фильтрации и модерации более важными, а не менее. Пополнение баланса здесь доступно только криптовалютой (USDT в сети TRC20 или USDC в сети Base) от $20 до $500, а новые пользователи могут сначала получить пробный баланс в размере $0,50.

Вопросы и ответы

Почему нельзя вызывать API напрямую из JavaScript в браузере?

Потому что ключ будет виден всем, кто откроет вкладку «Сеть». Бэкенд-прокси хранит ключ на вашем сервере и позволяет устанавливать лимиты для каждого пользователя.

Поддерживает ли API потоковую передачу?

Да. Установите параметр stream в true, и API будет отправлять события, отправляемые сервером (SSE), с данными об использовании в конце. Ваш прокси может передать эти события в браузер.

Какой SDK использовать?

Любой SDK от OpenAI или HTTP-клиент работает. Измените базовый URL на https://api.uncensoredchatbotapi.com/v1, используйте свой ключ и установите модель в uncensored.

Что произойдет, если слишком много пользователей начнут чат одновременно?

Полный ключ позволяет выполнять 8 параллельных запросов. В противном случае API возвращает код 429 с ошибкой concurrency, поэтому поместите дополнительные запросы в очередь на вашем сервере и повторите попытку вскоре.

Ваш ключ — всего в одной форме

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.

Получить API-ключЧитать документацию