繁中 ▾
Uncensored Chatbot API直接存取單一無審查 LLM取得 API 金鑰

Uncensored Chatbot API安全

如何在網站實作聊天機器人:逐步教學

學習如何在網站專案中實作聊天機器人,主要分為三個部分:瀏覽器中的聊天框、持有 API 金鑰的小型後端,以及對 OpenAI 相容端點的請求。本指南使用可運作的程式碼逐步建立這些部分。

更新於

透過持有金鑰的伺服器連線至雲端 API 的瀏覽器聊天氣泡,展示如何將聊天機器人加入網站

重點摘要

  • 切勿從瀏覽器程式碼呼叫 API。將金鑰保留在伺服器上,並公開您自己的 /api/chat 路由。
  • API 與 OpenAI 相容,因此設定基礎 URL 並使用 uncensored 模型後,標準 SDK 即可運作。
  • 串流輸出回覆以讓頁面感覺快速,並在伺服器上限制歷史記錄。
  • 處理 429 回應並設定每位訪客的限制,因為完整金鑰允許 8 個並行請求。

架構圖

在網站專案中實作聊天機器人的常見方式是三步轉送機制。訪客在聊天框中輸入。您的頁面將訊息傳送至您自己的伺服器。您的伺服器使用您的金鑰呼叫模型 API,並將答案傳回。瀏覽器不會看到金鑰。

這很重要,因為前端 JavaScript 中的任何內容都是公開的。如果你將金鑰放在 script 標籤中,任何開啟開發者工具的人都可以複製它並消耗你的額度。後端路由也讓你有一個地方可以新增速率限制、歷史記錄修剪、日誌記錄和年齡檢查。若要查看已完成頁面的詳細步驟,請參見 網頁聊天教學。

步驟 1:取得金鑰並測試端點

使用 Google 或電子郵件與密碼註冊,然後在 API 金鑰頁面領取免費試用。試用額度為 $0.50,有效期為 7 天,每人限領一次,且無需付款。將金鑰儲存為環境變數,不要放在程式碼中。

在撰寫任何應用程式程式碼之前,請使用 curl 檢查其是否運作:

export API_KEY="YOUR_KEY"

curl https://api.uncensoredchatbotapi.com/v1/models -H "Authorization: Bearer $API_KEY"

curl https://api.uncensoredchatbotapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

第一次呼叫列出模型,第二次回傳聊天完成。如果兩者都成功,表示金鑰和基礎 URL 正確。401 表示金鑰錯誤或缺少 Bearer 前綴。

步驟 2:撰寫後端路由

以下範例使用 Node 18 或更新版本、Express 和官方 openai 套件。使用 npm install express openai 安裝它們,並在 package.json 中設定 "type": "module"。

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredchatbotapi.com/v1",
  apiKey: process.env.API_KEY,
});

const SYSTEM = "You are a helpful assistant for our website. Keep answers under 150 words.";

const app = express();
app.use(express.json({ limit: "100kb" }));
app.use(express.static("public"));

app.post("/api/chat", async (req, res) => {
  const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
  const history = incoming.slice(-10).map((m) => ({
    role: m.role === "assistant" ? "assistant" : "user",
    content: String(m.content).slice(0, 4000),
  }));

  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SYSTEM }, ...history],
      stream: true,
    });
    res.setHeader("Content-Type", "text/plain; charset=utf-8");
    for await (const chunk of stream) {
      const text = chunk.choices[0]?.delta?.content;
      if (text) res.write(text);
    }
  } catch (err) {
    if (res.headersSent === false) res.status(err.status === 429 ? 429 : 502);
  }
  res.end();
});

app.listen(3000, () => console.log("Listening on http://localhost:3000"));

這裡有三個細節發揮實際作用。伺服器自行重建訊息列表,因此訪客無法注入假的系統訊息。它只保留最後 10 則訊息,並將每則限制為 4,000 個字元,以控制成本。並且它總是明確設定角色,將任何未知內容對應到 user。

步驟 3:建立聊天框

將其放入 public/index.html。它使用純 JavaScript,無需任何框架,因此你可以將其貼到既有範本中。

<div id="log"></div>
<form id="form">
  <input id="input" autocomplete="off" required />
  <button>Send</button>
</form>
<script>
const messages = [];
const log = document.getElementById("log");

document.getElementById("form").addEventListener("submit", async (e) => {
  e.preventDefault();
  const input = document.getElementById("input");
  messages.push({ role: "user", content: input.value });
  log.insertAdjacentHTML("beforeend", "<p></p>");
  log.lastElementChild.textContent = "You: " + input.value;
  input.value = "";

  const reply = document.createElement("p");
  log.appendChild(reply);
  const res = await fetch("/api/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ messages }),
  });
  if (res.ok === false) { reply.textContent = "Busy, please try again in a moment."; return; }

  const reader = res.body.getReader();
  const decoder = new TextDecoder();
  let full = "";
  while (true) {
    const { done, value } = await reader.read();
    if (done) break;
    full += decoder.decode(value, { stream: true });
    reply.textContent = full;
  }
  messages.push({ role: "assistant", content: full });
});
</script>

對模型回傳內容使用 textContent 而不是 innerHTML,可防止回覆將標記注入你的頁面。即使模型表現良好,也要保持這個習慣。

步驟 4:處理限制和錯誤

完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行和每分鐘 60 個請求。當你超過限制時,API 會回傳 HTTP 429 與錯誤代碼:rate_limited表示每分鐘請求數過多,或 concurrency表示同時請求過多。在暫時過載時,它也會回傳 429 與 Retry-After: 5標頭。

遵循兩個實用規則。首先,在延遲後重試 429,並使用短後退,如果持續失敗,則向訪客顯示友善訊息。其次,記住串流請求會在其串流結束前佔用其並行槽位。如果十位訪客在完整金鑰上同時串流,其中兩位將被拒絕,因此請在伺服器上新增小型佇列或每位訪客的限制。對於小型網站,以 IP 為鍵的簡單記憶體計數器就足夠了。

回應標頭可協助您除錯:X-Request-Id 在聯繫支援時識別呼叫,X-Balance-USD 顯示您的剩餘信用額度。請求主體限制為 8 MB,遠高於聊天所需,上下文視窗為 100,000 token。

部署時的陷阱

上述程式碼在 localhost 上運作。這些是在真實伺服器上出現的問題。

  • 緩衝代理。 某些反向代理會在完成前保留串流輸出回應,因此回覆會一次顯示。如果您使用 nginx,請關閉聊天路由的回應緩衝。透過與生產環境相同的代理鏈測試串流輸出,而不僅是在您的筆記型電腦上。
  • 儲存庫中的金鑰。 將金鑰保留在環境變數或機密儲存庫中,並將任何本地環境檔案新增至您的忽略列表。如果金鑰最終出現在公共儲存庫中,請建立新的金鑰並停止使用舊金鑰。
  • 信任客戶端。 瀏覽器傳送聊天歷史,因此訪客可以編輯它。這就是為什麼步驟 2 中的伺服器自行設定角色並限制訊息長度的原因。切勿接受來自客戶端的系統訊息。
  • 跨來源呼叫。 如果您的頁面和後端位於不同的網域,瀏覽器將阻止請求,直到您的伺服器傳送正確的 CORS 標頭。從同一個來源提供兩者可避免此問題。
  • 失控的成本。 一個腳本訪客可以傳送數百則訊息。在伺服器上計算每個 IP 或會話的請求數,並在計數過高時拒絕。也限制訊息長度,如範例所示。
  • Markdown 和連結。 模型通常會以列表和程式碼柵欄回覆。決定是否渲染該內容或顯示純文字,並且切勿將回覆文字插入為原始 HTML。

最後一項檢查是行動裝置版面配置。公共網站上的大多數聊天流量來自手機,因此請使用窄螢幕、開啟軟體鍵盤和不穩定的連線進行測試。如果串流在中途中斷,訪客應能夠重新傳送而不失去線索。

稍後擴充機器人

一旦基本中繼運作,相同的路由可以執行更多工作,因為 API 支援標準 OpenAI 功能。你可以透過將 response_format 設為 {"type": "json_object"} 並在提示詞中說明回覆必須是 JSON,來要求結構化輸出。這適合潛在客戶表單,可將自由文字訊息轉換為名稱、主題和緊急程度等欄位。

工具呼叫讓模型要求您的伺服器執行函式,例如查詢訂單或檢查營業時間。您傳遞 tools 列表,在回應中讀取 tool_calls,自行執行函式,並將結果作為帶有 role: "tool" 的訊息傳回。然後模型根據您的資料撰寫最終答案。這就是網站機器人如何取得實際資料而不是猜測。

採樣設定也對您開放。較低的 temperature 適合事實性客服,較高的 temperature 適合故事講述。一次新增一個變更,並在相同的五個測試問題上比較結果。

步驟 5:塑造機器人並上線

系統提示詞定義您的機器人。告訴它它是誰、涵蓋什麼以及答案應該多長。如果角色有個性,人格設計 的說明更深入。因為模型經過調整,可為合法成人用途無審查地回答,所以您受眾的防護欄是您要撰寫的:年齡確認、回報連結和清晰列出機器人不會討論的內容。涉及未成年人的性內容永遠不被允許。在推出之前,請參閱 負責任的使用和保障措施 頁面。

在成本方面,您每 1M 輸入 token 支付 $0.15,每 1M 輸出 token 支付 $0.50。回覆包含 1,200 個輸入 token 和 300 個輸出 token 的成本為 $0.00018 加上 $0.00015,即 $0.00033。$20 的儲值可涵蓋超過 60,000 次此類回覆。儲值範圍從 $20 到 $500,儲值 $50 以上贈送 5%,$100 以上贈送 10%,$200 以上贈送 15%,以 TRC20 上的 USDT 或 Base 上的 USDC 支付。額度永不過期。定價頁面 有詳細資訊,文件 列出了每個支援的參數,包括工具呼叫和 JSON 模式。

在推出之前,請用幾段長對話進行測試,觀察 429 的日誌,並確認您的伺服器修剪歷史。提示詞不用於訓練,但您仍應告訴您的訪客您儲存了什麼。

問答

我可以從瀏覽器 JavaScript 直接呼叫 API 嗎?

可以,但不建議。金鑰將對所有訪客可見。請透過您自己的伺服器路由請求,並將金鑰保留在環境變數中。

哪些語言和 SDK 可用?

任何 OpenAI SDK 或 HTTP 客戶端。將 Base URL 設為 https://api.uncensoredchatbotapi.com/v1,將金鑰用作 Bearer token,並將模型設為 uncensored。Python、Node 和 curl 均可使用。

串流輸出在瀏覽器中可行嗎?

可以。API 透過 SSE 進行串流輸出,並將 stream 設為 true。範例透過 fetch 和串流讀取器,將文字透過你的伺服器轉送。

當我達到速率限制時會發生什麼事?

您會收到 HTTP 429,錯誤代碼為 rate_limited 或 concurrency。等待並重試。對於暫時過載,Retry-After 標頭為 5 秒。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰閱讀文件