JA ▾
Uncensored Chatbot API無検閲LLMへの直接APIアクセスAPI キーを取得

Uncensored Chatbot API安全性

ウェブサイトへのチャットボット実装方法:ステップバイステップ

ウェブサイトプロジェクトへのチャットボット実装の学習は、3つの部分に集約されます。ブラウザ上のチャットボックス、APIキーを保持する小さなバックエンド、そしてOpenAI互換エンドポイントへの呼び出しです。このガイドでは、動作するコードを使用して各パートを構築します。

更新日:

ブラウザのチャットバブルがキーを保持するサーバーを介してクラウドAPIに接続し、ウェブサイトへのチャットボット追加方法を示しています

主要ポイント

  • ブラウザコードからAPIを呼び出さないでください。キーをサーバーに保持し、独自の/api/chatエンドポイントを公開してください。
  • APIはOpenAI互換なので、Base URLを設定しモデルをuncensoredに使用すれば標準SDKが動作します。
  • ストリーミング応答を使用してページを高速に感じさせ、サーバー側で履歴を制限してください。
  • 429応答を処理し、訪問者ごとの制限を設定してください。フルキーは8つの同時リクエストを許可するためです。

アーキテクチャの全体像

ウェブサイトプロジェクトへのチャットボット実装の一般的な方法は、3段階の中継です。訪問者がチャットボックスに入力します。ページがメッセージを自前のサーバーに送信します。サーバーが秘密のキーを使用してモデルAPIを呼び出し、回答を返します。ブラウザはキーを直接知りません。

これは重要です。フロントエンドのJavaScriptにあるものはすべて公開されます。キーをスクリプトタグに配置すると、開発者ツールを開く誰でもキーをコピーして残高を使い果たすことができます。バックエンドのエンドポイントには、レート制限、履歴の切り捨て、ログ、年齢確認ゲートを追加するための単一の場所も提供されます。完成したページのより詳細なウォークスルーについては、ウェブチャットチュートリアルを参照してください。

ステップ1:キーを取得しエンドポイントをテストする

Googleまたはメールアドレスとパスワードでサインアップし、APIキーページで無料トライアルを申請してください。トライアルは$0.50のクレジットで、7日間有効、1人1回、支払い不要です。キーをコードではなく環境変数として保存してください。

アプリコードを書く前にcurlで動作を確認してください:

export API_KEY="YOUR_KEY"

curl https://api.uncensoredchatbotapi.com/v1/models -H "Authorization: Bearer $API_KEY"

curl https://api.uncensoredchatbotapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

最初の呼び出しはモデルの一覧を返し、2番目の呼び出しはチャット完了を返します。両方が成功すれば、キーとBase URLが正しいことを意味します。401エラーは、キーが間違っているか、Bearerプレフィックスが不足していることを意味します。

ステップ2:バックエンドルートの作成

以下の例ではNode 18以降、Express、および公式のopenaiパッケージを使用します。これらをnpm install express openaiでインストールし、package.jsonに"type": "module"を設定してください。

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredchatbotapi.com/v1",
  apiKey: process.env.API_KEY,
});

const SYSTEM = "You are a helpful assistant for our website. Keep answers under 150 words.";

const app = express();
app.use(express.json({ limit: "100kb" }));
app.use(express.static("public"));

app.post("/api/chat", async (req, res) => {
  const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
  const history = incoming.slice(-10).map((m) => ({
    role: m.role === "assistant" ? "assistant" : "user",
    content: String(m.content).slice(0, 4000),
  }));

  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SYSTEM }, ...history],
      stream: true,
    });
    res.setHeader("Content-Type", "text/plain; charset=utf-8");
    for await (const chunk of stream) {
      const text = chunk.choices[0]?.delta?.content;
      if (text) res.write(text);
    }
  } catch (err) {
    if (res.headersSent === false) res.status(err.status === 429 ? 429 : 502);
  }
  res.end();
});

app.listen(3000, () => console.log("Listening on http://localhost:3000"));

ここで実際に機能する重要な点が3つあります。サーバーはメッセージリストを自身で再構築するため、訪問者が偽のシステムメッセージを注入することはできません。最後の10メッセージのみを保持し、各メッセージを4,000文字に制限することでコストを制御します。また、未知のものはすべてuserにマッピングし、ロールを明示的に設定します。

ステップ3:チャットボックスの構築

これをpublic/index.htmlに配置します。フレームワークを使用しないプレーンJavaScriptを使用しているため、既存のテンプレートに貼り付けることができます。

<div id="log"></div>
<form id="form">
  <input id="input" autocomplete="off" required />
  <button>Send</button>
</form>
<script>
const messages = [];
const log = document.getElementById("log");

document.getElementById("form").addEventListener("submit", async (e) => {
  e.preventDefault();
  const input = document.getElementById("input");
  messages.push({ role: "user", content: input.value });
  log.insertAdjacentHTML("beforeend", "<p></p>");
  log.lastElementChild.textContent = "You: " + input.value;
  input.value = "";

  const reply = document.createElement("p");
  log.appendChild(reply);
  const res = await fetch("/api/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ messages }),
  });
  if (res.ok === false) { reply.textContent = "Busy, please try again in a moment."; return; }

  const reader = res.body.getReader();
  const decoder = new TextDecoder();
  let full = "";
  while (true) {
    const { done, value } = await reader.read();
    if (done) break;
    full += decoder.decode(value, { stream: true });
    reply.textContent = full;
  }
  messages.push({ role: "assistant", content: full });
});
</script>

モデルの出力にtextContentを使用し、innerHTMLを避けることで、返信がページにマークアップを注入するのを防げます。モデルが適切に動作する場合でも、この習慣を維持してください。

ステップ4:制限とエラーの処理

フルキーは8つの同時リクエストと1分あたり300件のリクエストを許可します。トライアルキーは2つの同時リクエストと1分あたり60件のリクエストを許可します。制限を超えると、APIはHTTP 429を返し、エラーコードとして、1分あたりのリクエスト数に対してはrate_limited、一度に多すぎることに対してはconcurrencyを返します。一時的な過負荷時には、Retry-After: 5ヘッダーを付けて429を返します。

これに続く実用的なルールが2つあります。まず、429エラーの後は短いバックオフで再試行し、失敗し続けた場合は訪問者に親切なメッセージを表示します。次に、ストリーミングされたリクエストはストリーミングが終了するまで同時接続枠を保持することに注意してください。フルキーで10人の訪問者が同時にストリーミングすると、2人が拒否されるため、サーバーに小さなキューまたは訪問者ごとの制限を追加してください。小規模なサイトであれば、IPをキーとする単純なメモリ内カウンターで十分です。

レスポンスヘッダーはデバッグに役立ちます:X-Request-Idはサポートに連絡する際に呼び出しを識別し、X-Balance-USDは残高クレジットを示します。リクエストボディの制限は8 MBで、チャットに必要な量をはるかに上回っています。コンテキストウィンドウは100,000トークンです。

デプロイ時の落とし穴

上記のコードはlocalhostでは動作します。これらは、実際のサーバーにデプロイした後に発生する問題です。

  • バッファリングプロキシ。 一部の逆プロキシはストリーミング応答を完了するまで保持するため、返信が一括で表示されます。nginxを使用する場合は、チャットルートのレスポンスバッファリングを無効にしてください。ラップトップ上だけでなく、本番環境で使用するのと同じプロキシチェーンを通じてストリーミングをテストしてください。
  • リポジトリ内のキー。キーを環境変数またはシークレットストアに保持し、ローカルのenvファイルを無視リストに追加してください。キーが公開リポジトリに配置された場合は、新しいキーを作成し、古いキーの使用を停止してください。
  • クライアントの信頼。ブラウザはチャット履歴を送信するため、訪問者が編集できます。そのため、ステップ2のサーバーはロールを自身で設定し、メッセージの長さを制限します。クライアントからのシステムメッセージを絶対に受け入れないでください。
  • クロスオリジン呼び出し。ページとバックエンドが異なるドメインにある場合、ブラウザはサーバーが適切なCORSヘッダーを送信するまでリクエストをブロックします。1つのオリジンから両方を提供すれば、この問題を回避できます。
  • コストの暴走。スクリプト化された訪問者が数百のメッセージを送信する可能性があります。サーバー上でIPまたはセッションあたりのリクエスト数をカウントし、カウントが多すぎる場合は拒否してください。また、例のようにメッセージの長さを制限してください。
  • マークダウンとリンク。モデルはリストやコードブロック付きで返信することがよくあります。それをレンダリングするかプレーンテキストを表示するかを決定し、応答テキストを生のHTMLとして挿入しないでください。

最後のチェックはモバイルレイアウトです。公開サイトでのチャットトラフィックの大部分はスマートフォンから来るため、狭い画面、ソフトウェアキーボードが開いた状態、不安定な接続でテストしてください。ストリームが途中で切れた場合、訪問者はスレッドを失うことなく再送信できる必要があります。

ボットの拡張

基本的なリレーが動作したら、同じルートでより多くのことができます。APIは標準的なOpenAI機能をサポートしているためです。response_formatを{"type": "json_object"}に設定し、プロンプトで応答がJSONでなければならないと指定することで、JSONモードを使用して構造化された出力を要求できます。これは、フリーテキストメッセージを名前、トピック、緊急性などのフィールドに変換するリードフォームに適しています。

ツール呼び出しにより、モデルは注文検索や営業時間の確認など、関数を実行するようサーバーに依頼できます。toolsリストを渡し、応答内のtool_callsを読み取り、関数を自分で実行し、role: "tool"のメッセージとして結果を返します。その後、モデルはあなたのデータから最終回答を生成します。これが、モデルが推測ではなく実際の情報を取得する方法です。

サンプリング設定もあなた次第です。事実ベースのヘルプデスクには低い温度値が適し、ストーリーテリングには高い温度値が適します。一度に1つずつ変更し、同じ5つのテスト質問で結果を比較してください。

ステップ5:ボットを仕上げ、公開する

システムプロンプトはボットを定義します。ボットが何者で、何をカバーし、回答はどの程度長くすべきかを指示します。キャラクターに性格がある場合は、ペルソナデザインに関する詳細を参照してください。モデルは法的な成人利用に対してコンテンツ拒否なしで回答するようにチューニングされているため、対象ユーザー向けのガードレールはあなた次第です:年齢確認、レポートリンク、ボットが議論しない事項の明確なリストを作成します。未成年者を含む性的なコンテンツは常に禁止されています。公開前に責任ある利用と保護策のページをご覧ください。

コストについて、1M入力トークンあたり$0.15、1M出力トークンあたり$0.50を支払います。1,200入力トークンと300出力トークンの返信には$0.00018と$0.00015、合計$0.00033がかかります。$20のチャージで、そのような返信60,000件分以上がカバーできます。チャージは$20〜$500で、$50以上で+5%、$100以上で+10%、$200以上で+15%のクレジットが付与されます。TRC20上のUSDTまたはBase上のUSDCで支払い可能です。クレジットは期限切れになりません。詳細は料金ページに記載されており、ドキュメントには関数呼び出しやJSONモードを含むすべてのサポート対象パラメータがリストされています。

公開前に、いくつかの長い会話でテストし、429のログを確認し、サーバーが履歴を切り捨てることを確認してください。プロンプトはトレーニングに使用されませんが、訪問者に保存する情報を伝えるべきです。

質問と回答

ブラウザのJavaScriptからAPIを直接呼び出せますか?

可能ですが、お勧めしません。キーがすべての訪問者に公開されてしまいます。リクエストを自前のサーバー経由でルーティングし、キーを環境変数に格納してください。

対応する言語やSDKは何がありますか?

OpenAI SDKまたはHTTPクライアントのいずれかを使用できます。Base URLをhttps://api.uncensoredchatbotapi.com/v1,に設定し、キーをBearerトークンとして使用し、モデルをuncensoredに設定してください。Python、Node、curlはすべて動作します。

ブラウザでストリーミングは動作しますか?

はい。APIはstreamをtrueに設定してSSEでストリーミングします。例では、fetchとストリームリーダーを使用してテキストをサーバー経由で中継しています。

レート制限に達するとどうなりますか?

HTTP 429(エラーコードはrate_limitedまたはconcurrency)を受け取ります。待機して再試行してください。一時的な過負荷の場合、Retry-Afterヘッダーは5秒です。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

APIキーを取得ドキュメントを読む