JA ▾
Uncensored Chatbot API無検閲LLMへの直接APIアクセスAPI キーを取得

Uncensored Chatbot API安全性

チャットボットAPI連携:アプリにチャットエンドポイントを接続

チャットボットAPIの統合には、スキップできないルールが1つあります。ブラウザはAPIキーを保持しないことです。小さなバックエンドプロキシを間に置き、その経由で応答をストリーミングし、残りは通常のWeb開発です。

更新日:

ブラウザのキューブとサーバーのキューブがロックされたゲートを通じて接続されているガラスの導管、バックエンドチャットプロキシを示す

主要ポイント

  • ブラウザはサーバーに話しかけ、サーバーはキー付きでチャットAPIに話しかけます。
  • サーバー送信イベントでストリーミングし、単語ごとに返信を表示します。
  • 履歴を制限し、ユーザーごとの制限を設定し、429レスポンスを短い待機で処理します。
  • エンドポイントはOpenAI互換なので、ベースURLを変更するだけで公式SDKが動作します。

1つの図で見るパターン

安全なチャットボットAPI連携はすべて全体像が同じです。ブラウザのページはユーザーのメッセージを自分のエンドポイントに送信します。サーバーはシステムプロンプトを追加し、履歴をトリミングし、APIキーを付けて呼び出しを転送します。返信は同じ方法でストリーミングされます。

Browser  --POST /api/chat-->  Your server  --POST /v1/chat/completions-->  Chat API
Browser  <--SSE stream------  Your server  <--SSE stream-----------------  Chat API

プロキシは4つの理由のために存在します。キーを隠し、誰が呼び出しているかを確認し、ユーザーごとのコストを制限し、後でモデル設定を変更するための場所を1つにすることです。フロントエンドのJavaScriptに配置されたキーは、ページが読み込まれた瞬間に公開され、誰かがあなたの前払いクレジットを消費する可能性があります。

APIはOpenAI形式に従います。ベースURLはhttps://api.uncensoredchatbotapi.com/v1、モデルはuncensored、認証はAuthorization: Bearer YOUR_KEYです。キーページでキーを取得してください。

ステップ1:サーバープロキシ

このExpressサーバーは会話を受け取り、システムプロンプトを追加し、ストリーミングでAPIを呼び出し、テキストを中継します。依存関係をnpm i express openaiでインストールし、環境にCHAT_API_KEYを設定します。

import express from "express";
import OpenAI from "openai";

const app = express();
app.use(express.json({ limit: "200kb" }));
app.use(express.static("public"));

const client = new OpenAI({
  baseURL: "https://api.uncensoredchatbotapi.com/v1",
  apiKey: process.env.CHAT_API_KEY,
});

const SYSTEM = "You are a helpful companion for adults. Keep replies under 150 words.";

app.post("/api/chat", async (req, res) => {
  const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
  const clean = incoming
    .filter((m) => ["user", "assistant"].includes(m.role) && typeof m.content === "string")
    .slice(-20)
    .map((m) => ({ role: m.role, content: m.content.slice(0, 4000) }));

  res.writeHead(200, { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" });
  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SYSTEM }, ...clean],
      stream: true,
    });
    for await (const part of stream) {
      const t = part.choices[0]?.delta?.content;
      if (t) res.write(`data: ${JSON.stringify(t)}\n\n`);
    }
    res.write("data: [DONE]\n\n");
  } catch (e) {
    res.write(`event: error\ndata: ${JSON.stringify(e.status === 429 ? "busy" : "failed")}\n\n`);
  }
  res.end();
});

app.listen(3000);

フィルターに注意してください。クライアントは何でも送信できるため、サーバーはuserとassistantのメッセージのみを保持し、それぞれを切り詰め、ブラウザが注入しようとするsystemメッセージを無視します。システムプロンプトは常にあなたのコードから来ます。

ステップ2:ブラウザ側

ブラウザはfetchでストリームを読み取り、到着するたびにテキストを追加します。ライブラリは必要ありません。

const messages = [];

async function send(text, out) {
  messages.push({ role: "user", content: text });
  const res = await fetch("/api/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ messages }),
  });

  const reader = res.body.getReader();
  const dec = new TextDecoder();
  let reply = "", buf = "";

  while (true) {
    const { done, value } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const events = buf.split("\n\n");
    buf = events.pop();
    for (const ev of events) {
      if (ev === "data: [DONE]") break;
      if (ev.startsWith("data: ")) {
        reply += JSON.parse(ev.slice(6));
        out.textContent = reply;
      }
    }
  }
  messages.push({ role: "assistant", content: reply });
}

バッファが重要です。ネットワークのチャンクはイベントの境界と一致しないため、空白行で分割し、未完成の末尾を次の読み込みで保持します。ページ自体のウォークスルーについては、ウェブチャットチュートリアルをご覧ください。サイトへのボットの追加に関するより広い視点については、ウェブサイトへのチャットボットの実装方法をご覧ください。

制限、エラー、リトライ

フルキーは8つの同時リクエストと1分あたり300を許可します。トライアルキーは2と60を許可します。ストリーミングリクエストはストリームが終了するまでスロットを占有するため、8つのスロットがあれば一度に最大8つのストリーミング応答を提供できます。サイトにそれ以上の同時ユーザーがいる場合は、サーバーでリクエストをキューに入れ、失敗する代わりに「少しお待ちください」と答えてください。

  • 429(concurrency):リクエストが過剰に実行中。キューに格納して再試行してください。
  • 429(rate_limited):1分あたりのリクエスト数が多すぎます。速度を落としてください。
  • Retry-After: 5ヘッダー付きの429:一時的な過負荷。5秒待ってから再試行します。
  • 401:キーが間違っているか、不足しています。
  • 8 MBを超える本文: 拒否されるため、送信するものを削減してください。

小さなインメモリカウンターを追加し、サーバーが8つのアップストリームストリーム以上を開けないようにします。

let active = 0;
const MAX = 8;

app.use("/api/chat", (req, res, next) => {
  if (active >= MAX) return res.status(503).json({ error: "busy" });
  active++;
  res.on("close", () => { active--; });
  next();
});

チャットルートの前にこのミドルウェアを登録します。closeイベントはレスポンスが終了するかユーザーが離れると発生するため、カウンターはリークしません。

各会話のコストを制御する

価格は1M入力トークンあたり$0.15、1M出力トークンあたり$0.50です。各ターンで履歴が再送信されるため、履歴の制限が最も効果的な手段です。最後の20メッセージ(それぞれ約60トークン)と100トークンのシステムプロンプトで、リクエストは約1,300の入力トークンを運びます。150トークンの応答は出力を追加します。

ターンあたりのコスト:1,300 / 1,000,000 x $0.15 = $0.000195、プラス 150 / 1,000,000 x $0.50 = $0.000075、合計 $0.00027。その規模の30ターンセッションでは、初期のターンが短いため、最大でも $0.0081 です。ユーザーごとの日次上限(例えば100メッセージ)を設定すると、ユーザー1人あたりの最大コストは100 x $0.00027 = $0.027 に制限されます。サイトボットの価格設定について詳しくは、ウェブサイトボットのコストページをお読みください。また、max_tokensなどのパラメータについては、ドキュメントをご利用ください。

誰があなたのプロキシを呼び出しているか

プロキシはキーを保護しますが、URLを見つけた誰でも使える無料チャットエンドポイントにもなります。リリースする前に誰がそれを使用できるかを決めてください。

公開サイトの場合、ログイン時に設定された署名付きセッションCookieが通常の答えです。ルートの先頭でチェックし、欠けている場合は401を返します。クイックプロトタイプの場合、express-rate-limitなどのパッケージによるIPごとの制限は、何もしないよりはマシですが、共有ネットワークではIP制限は粗雑になります。あなたが選択したものにかかわらず、接続ごとではなくユーザーごとにメッセージをカウントし、再起動でリセットされない場所にカウントを保存してください。

アプリが大きくなったら会話履歴をサーバーに保持します。ブラウザからすべてのターンで履歴全体を送信するのは構築が簡単ですが、ユーザーはそれを編集できます。会話IDの下でデータベースにメッセージを保存し、各リクエストで最後の20を読み込み、ストリーム終了後に返信を追加します。これにより、ユーザーはタブを閉じて同じチャットに戻ることができます。

起動前に

短いチェックリストで、リリース当日の混乱を防ぎます。

  1. キーはサーバー上の環境変数のみに存在し、リポジトリには含まれていません。
  2. サーバーはクライアントからのシステムメッセージを無視します。
  3. 各ユーザーには1日のメッセージ制限とメッセージ長さの制限があります。
  4. エラーは親しみやすいメッセージを表示し、内部の詳細を出力しません。
  5. X-Request-IdヘッダーとトークンカウントからリクエストIDをログに記録し、全文は記録しません。
  6. X-Balance-USDを確認し、クレジット残量が少なくなるとアラートを受け取ります。
  7. あなたの利用規約は大人のみを対象としており、ボットは未成年者を含む性的コンテンツを生成しません。

最後のポイントは、アダルトチャットボットの安全性に関するガイダンスと共有されています。このAPIの背後にあるモデルは、法的な成人利用に対してコンテンツ拒否なしで回答するようにチューニングされており、それにより、独自の年齢制限やモデレーションルールがより重要になります。ここではチャージは暗号資産のみ(TRC20上のUSDTまたはBase上のUSDC)で、$20から$500まで、新規ユーザーはまず$0.50のトライアルを請求できます。

質問と回答

ブラウザのJavaScriptから直接APIを呼び出せないのはなぜですか?

ネットワークタブを開いたユーザーは誰でもキーを閲覧できるためです。バックエンドプロキシはキーをサーバーに保持し、ユーザーごとに制限を追加できます。

APIはストリーミングに対応していますか?

はい。streamをtrueに設定すると、APIはサーバー送信イベント(SSE)を送信し、最後に使用状況を含めます。プロキシはこれらのイベントをブラウザに中継できます。

どのSDKを使用すべきですか?

任意のOpenAI SDKまたはHTTPクライアントが動作します。ベースURLをhttps://api.uncensoredchatbotapi.com/v1に変更してキーを使用し、モデルをuncensoredに設定します。

多くのユーザーが同時にチャットするとどうなりますか?

フルキーは8つの同時リクエストを許可します。それを超えるとAPIは429を返しますが、そのコードはconcurrencyです。サーバーで追加のリクエストをキューに入れ、すぐに再試行してください。

キーはフォームを埋めるだけで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

APIキーを取得ドキュメントを読む