繁中 ▾
Uncensored Chatbot API直接存取單一無審查 LLM取得 API 金鑰

Uncensored Chatbot API安全

聊天機器人 API 整合:將聊天端點接入您的應用程式

聊天機器人 API 整合有一條不可跳過的規則:瀏覽器不得持有 API 金鑰。在中間放置一個小型後端代理伺服器,透過它串流輸出回覆,其餘部分就是普通的網頁開發。

更新於

玻璃管連接瀏覽器方塊與伺服器方塊,透過鎖定閘門顯示後端聊天代理

重點摘要

  • 瀏覽器與您的伺服器通訊;您的伺服器使用金鑰與聊天 API 通訊。
  • 使用 server-sent events 進行串流輸出,以便逐字顯示回覆。
  • 限制歷史記錄,設定每使用者限制,並在收到 429 回應時進行短暫等待。
  • 該端點與 OpenAI 相容,因此更改 Base URL 後即可使用官方 SDK。

單一圖片中的模式

每個安全的聊天機器人 API 整合從高階架構來看都相同。瀏覽器中的頁面會將使用者的訊息傳送至您自己的端點。您的伺服器會加入系統提示詞、截斷歷史記錄、附加 API 金鑰並轉發請求。回覆則以相同方式串流回傳。

Browser  --POST /api/chat-->  Your server  --POST /v1/chat/completions-->  Chat API
Browser  <--SSE stream------  Your server  <--SSE stream-----------------  Chat API

代理伺服器存在有四項原因:它隱藏金鑰,讓您可以檢查呼叫者身份,讓您可以限制每使用者的成本,並提供單一位置以便日後更改模型設定。前端 JavaScript 中的金鑰在頁面載入時即為公開,他人可能會消耗您的預付額度。

API 遵循 OpenAI 格式。Base URL 為https://api.uncensoredchatbotapi.com/v1,模型為uncensored,驗證為Authorization: Bearer YOUR_KEY。請在金鑰頁面取得金鑰。

步驟 1:伺服器代理

此 Express 伺服器接受對話,加入系統提示詞,以串流方式呼叫 API 並轉傳文字。使用npm i express openai安裝相依套件,並在環境中設定CHAT_API_KEY。

import express from "express";
import OpenAI from "openai";

const app = express();
app.use(express.json({ limit: "200kb" }));
app.use(express.static("public"));

const client = new OpenAI({
  baseURL: "https://api.uncensoredchatbotapi.com/v1",
  apiKey: process.env.CHAT_API_KEY,
});

const SYSTEM = "You are a helpful companion for adults. Keep replies under 150 words.";

app.post("/api/chat", async (req, res) => {
  const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
  const clean = incoming
    .filter((m) => ["user", "assistant"].includes(m.role) && typeof m.content === "string")
    .slice(-20)
    .map((m) => ({ role: m.role, content: m.content.slice(0, 4000) }));

  res.writeHead(200, { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" });
  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SYSTEM }, ...clean],
      stream: true,
    });
    for await (const part of stream) {
      const t = part.choices[0]?.delta?.content;
      if (t) res.write(`data: ${JSON.stringify(t)}\n\n`);
    }
    res.write("data: [DONE]\n\n");
  } catch (e) {
    res.write(`event: error\ndata: ${JSON.stringify(e.status === 429 ? "busy" : "failed")}\n\n`);
  }
  res.end();
});

app.listen(3000);

注意篩選機制。客戶端可以傳送任何內容,因此伺服器僅保留 user 和 assistant 訊息,截斷每則訊息,並忽略瀏覽器嘗試注入的任何 system 訊息。系統提示詞始終來自您的程式碼。

步驟 2:瀏覽器端

瀏覽器使用fetch讀取串流,並在文字到達時附加文字。不需要任何程式庫。

const messages = [];

async function send(text, out) {
  messages.push({ role: "user", content: text });
  const res = await fetch("/api/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ messages }),
  });

  const reader = res.body.getReader();
  const dec = new TextDecoder();
  let reply = "", buf = "";

  while (true) {
    const { done, value } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const events = buf.split("\n\n");
    buf = events.pop();
    for (const ev of events) {
      if (ev === "data: [DONE]") break;
      if (ev.startsWith("data: ")) {
        reply += JSON.parse(ev.slice(6));
        out.textContent = reply;
      }
    }
  }
  messages.push({ role: "assistant", content: reply });
}

緩衝區很重要。網路分塊不會與事件邊界對齊,因此您在空白行處分割,並將未完成的尾端保留給下一次讀取。如需該頁面的逐步操作說明,請參閱 網頁聊天教學,若要了解將機器人新增至網站的更廣泛圖景,請參閱 如何在網站中實作聊天機器人。

限制、錯誤與重試

完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。串流請求會佔用其槽位直到串流結束,因此具備 8 個槽位時,您最多只能同時服務 8 個即時回覆。如果您的網站同時使用者數超過此限制,請在伺服器中排隊請求,並回答「稍等一下」而非失敗。

  • 429 搭配 concurrency:處理中的請求過多。請排隊並重試。
  • 429 搭配rate_limited:每分鐘請求過多。請減慢速度。
  • 429 搭配Retry-After: 5標頭:暫時過載。等待 5 秒後再試。
  • 401: 金鑰錯誤或缺失。
  • 主體超過 8 MB:遭拒,因此請截斷您傳送的內容。

新增一個小型記憶體計數器,以便您的伺服器不會開啟超過 8 個上游串流:

let active = 0;
const MAX = 8;

app.use("/api/chat", (req, res, next) => {
  if (active >= MAX) return res.status(503).json({ error: "busy" });
  active++;
  res.on("close", () => { active--; });
  next();
});

在聊天路由之前註冊此中介軟體。當回應結束或使用者離開時,會觸發close事件,因此計數器不會洩漏。

控制每筆對話的成本

價格為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。由於每個回合都會重新傳送歷史記錄,歷史記錄的上限是您的最大控制手段。最後 20 則訊息每則約 60 個 token,加上 100 個 token 的系統提示詞,請求約包含 1,300 個輸入 token。150 個 token 的回覆會增加輸出成本。

每回合成本:1,300 / 1,000,000 x $0.15 = $0.000195,加上 150 / 1,000,000 x $0.50 = $0.000075,總計 $0.00027。30 個回合的會話在此大小下最多花費 $0.0081,因為早期回合較短。每使用者每日上限(例如 100 則訊息)將您的最壞情況限制在每使用者每天 100 x $0.00027 = $0.027。如需更多關於網站機器人定價的資訊,請閱讀 網站聊天機器人成本 頁面,並使用 文件 查看 max_tokens 等參數。

誰在呼叫您的代理伺服器

代理伺服器保護金鑰,但也可能成為任何找到 URL 的人的免費聊天端點。在發布前決定誰可以使用它。

對於公開網站,在登入時設定簽署的工作階段 cookie 是常見做法。在路由開頭檢查該 cookie,若遺失則回傳 401。對於快速原型,使用 express-rate-limit 等套件設定每 IP 限制雖非完美(因共用網路會使 IP 限制不夠精確),但總比沒有好。無論選擇何種方式,請計算每個使用者的訊息數量,而非每個連線的數量,並將計數儲存於不會因重新啟動而重置的位置。

應用程式成長後,請將對話歷史記錄保留在伺服器上。在每個回合從瀏覽器傳送完整的歷史記錄很容易建立,但使用者可以編輯它。在資料庫中以對話 id 儲存訊息,在每個請求時載入最後 20 則,並在串流結束後附加回覆。這也允許使用者關閉分頁並回到相同的聊天。

發布前

簡短的檢查清單可確保上線日平穩。

  1. 金鑰僅存在於伺服器的環境變數中,且儲存庫不包含它。
  2. 伺服器忽略來自客戶端的任何系統訊息。
  3. 每個使用者都有每日訊息上限和訊息長度上限。
  4. 錯誤顯示友善訊息,且永不列印內部詳細資訊。
  5. 您記錄來自X-Request-Id標頭的請求 id 和 token 計數,而非完整文字。
  6. 請監控 X-Balance-USD,當額度不足時會收到警示。
  7. 您的條款明定僅限成人觀眾,且機器人不會產生涉及未成年人的性內容。

最後一點與 成人聊天機器人安全的指引相關。此 API 背後的模型經過調整,可在合法成人用途下無內容審查地回答,這使得您的年齡驗證與內容審核規則變得更重要,而非較不重要。此處的儲值僅限加密貨幣(TRC20 上的 USDT 或 Base 上的 USDC),金額介於 $20 至 $500 之間,新使用者可先領取 $0.50 的試用額度。

問答

為什麼我不能直接在瀏覽器中使用 JavaScript 呼叫 API?

因為金鑰會對所有開啟網路分頁的人可見。後端代理伺服器將金鑰保留在您的伺服器上,並允許您為每個使用者設定限制。

API 是否支援串流輸出?

可以。將 stream 設為 true,API 會傳送 server-sent events,並在結尾附上用量資訊。您的代理伺服器可以將這些事件轉傳至瀏覽器。

我應該使用哪個 SDK?

任何 OpenAI SDK 或 HTTP 用戶端均可使用。將 Base URL 變更為 https://api.uncensoredchatbotapi.com/v1,使用您的金鑰,並將模型設為 uncensored。

如果太多使用者同時聊天會發生什麼事?

完整金鑰允許 8 個並行請求。超過此限制時,API 會回傳 429 狀態碼,其錯誤碼為 concurrency,因此請在伺服器端將額外請求排隊,並在短時間後重試。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰閱讀文件