聊天機器人 API 整合:將聊天端點接入您的應用程式
聊天機器人 API 整合有一條不可跳過的規則:瀏覽器不得持有 API 金鑰。在中間放置一個小型後端代理伺服器,透過它串流輸出回覆,其餘部分就是普通的網頁開發。
更新於

重點摘要
- 瀏覽器與您的伺服器通訊;您的伺服器使用金鑰與聊天 API 通訊。
- 使用 server-sent events 進行串流輸出,以便逐字顯示回覆。
- 限制歷史記錄,設定每使用者限制,並在收到 429 回應時進行短暫等待。
- 該端點與 OpenAI 相容,因此更改 Base URL 後即可使用官方 SDK。
單一圖片中的模式
每個安全的聊天機器人 API 整合從高階架構來看都相同。瀏覽器中的頁面會將使用者的訊息傳送至您自己的端點。您的伺服器會加入系統提示詞、截斷歷史記錄、附加 API 金鑰並轉發請求。回覆則以相同方式串流回傳。
Browser --POST /api/chat--> Your server --POST /v1/chat/completions--> Chat API
Browser <--SSE stream------ Your server <--SSE stream----------------- Chat API
代理伺服器存在有四項原因:它隱藏金鑰,讓您可以檢查呼叫者身份,讓您可以限制每使用者的成本,並提供單一位置以便日後更改模型設定。前端 JavaScript 中的金鑰在頁面載入時即為公開,他人可能會消耗您的預付額度。
API 遵循 OpenAI 格式。Base URL 為https://api.uncensoredchatbotapi.com/v1,模型為uncensored,驗證為Authorization: Bearer YOUR_KEY。請在金鑰頁面取得金鑰。
步驟 1:伺服器代理
此 Express 伺服器接受對話,加入系統提示詞,以串流方式呼叫 API 並轉傳文字。使用npm i express openai安裝相依套件,並在環境中設定CHAT_API_KEY。
import express from "express";
import OpenAI from "openai";
const app = express();
app.use(express.json({ limit: "200kb" }));
app.use(express.static("public"));
const client = new OpenAI({
baseURL: "https://api.uncensoredchatbotapi.com/v1",
apiKey: process.env.CHAT_API_KEY,
});
const SYSTEM = "You are a helpful companion for adults. Keep replies under 150 words.";
app.post("/api/chat", async (req, res) => {
const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
const clean = incoming
.filter((m) => ["user", "assistant"].includes(m.role) && typeof m.content === "string")
.slice(-20)
.map((m) => ({ role: m.role, content: m.content.slice(0, 4000) }));
res.writeHead(200, { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" });
try {
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: SYSTEM }, ...clean],
stream: true,
});
for await (const part of stream) {
const t = part.choices[0]?.delta?.content;
if (t) res.write(`data: ${JSON.stringify(t)}\n\n`);
}
res.write("data: [DONE]\n\n");
} catch (e) {
res.write(`event: error\ndata: ${JSON.stringify(e.status === 429 ? "busy" : "failed")}\n\n`);
}
res.end();
});
app.listen(3000);
注意篩選機制。客戶端可以傳送任何內容,因此伺服器僅保留 user 和 assistant 訊息,截斷每則訊息,並忽略瀏覽器嘗試注入的任何 system 訊息。系統提示詞始終來自您的程式碼。
步驟 2:瀏覽器端
瀏覽器使用fetch讀取串流,並在文字到達時附加文字。不需要任何程式庫。
const messages = [];
async function send(text, out) {
messages.push({ role: "user", content: text });
const res = await fetch("/api/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ messages }),
});
const reader = res.body.getReader();
const dec = new TextDecoder();
let reply = "", buf = "";
while (true) {
const { done, value } = await reader.read();
if (done) break;
buf += dec.decode(value, { stream: true });
const events = buf.split("\n\n");
buf = events.pop();
for (const ev of events) {
if (ev === "data: [DONE]") break;
if (ev.startsWith("data: ")) {
reply += JSON.parse(ev.slice(6));
out.textContent = reply;
}
}
}
messages.push({ role: "assistant", content: reply });
}
緩衝區很重要。網路分塊不會與事件邊界對齊,因此您在空白行處分割,並將未完成的尾端保留給下一次讀取。如需該頁面的逐步操作說明,請參閱 網頁聊天教學,若要了解將機器人新增至網站的更廣泛圖景,請參閱 如何在網站中實作聊天機器人。
限制、錯誤與重試
完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。串流請求會佔用其槽位直到串流結束,因此具備 8 個槽位時,您最多只能同時服務 8 個即時回覆。如果您的網站同時使用者數超過此限制,請在伺服器中排隊請求,並回答「稍等一下」而非失敗。
- 429 搭配
concurrency:處理中的請求過多。請排隊並重試。 - 429 搭配
rate_limited:每分鐘請求過多。請減慢速度。 - 429 搭配
Retry-After: 5標頭:暫時過載。等待 5 秒後再試。 - 401: 金鑰錯誤或缺失。
- 主體超過 8 MB:遭拒,因此請截斷您傳送的內容。
新增一個小型記憶體計數器,以便您的伺服器不會開啟超過 8 個上游串流:
let active = 0;
const MAX = 8;
app.use("/api/chat", (req, res, next) => {
if (active >= MAX) return res.status(503).json({ error: "busy" });
active++;
res.on("close", () => { active--; });
next();
});
在聊天路由之前註冊此中介軟體。當回應結束或使用者離開時,會觸發close事件,因此計數器不會洩漏。
控制每筆對話的成本
價格為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。由於每個回合都會重新傳送歷史記錄,歷史記錄的上限是您的最大控制手段。最後 20 則訊息每則約 60 個 token,加上 100 個 token 的系統提示詞,請求約包含 1,300 個輸入 token。150 個 token 的回覆會增加輸出成本。
每回合成本:1,300 / 1,000,000 x $0.15 = $0.000195,加上 150 / 1,000,000 x $0.50 = $0.000075,總計 $0.00027。30 個回合的會話在此大小下最多花費 $0.0081,因為早期回合較短。每使用者每日上限(例如 100 則訊息)將您的最壞情況限制在每使用者每天 100 x $0.00027 = $0.027。如需更多關於網站機器人定價的資訊,請閱讀 網站聊天機器人成本 頁面,並使用 文件 查看 max_tokens 等參數。
誰在呼叫您的代理伺服器
代理伺服器保護金鑰,但也可能成為任何找到 URL 的人的免費聊天端點。在發布前決定誰可以使用它。
對於公開網站,在登入時設定簽署的工作階段 cookie 是常見做法。在路由開頭檢查該 cookie,若遺失則回傳 401。對於快速原型,使用 express-rate-limit 等套件設定每 IP 限制雖非完美(因共用網路會使 IP 限制不夠精確),但總比沒有好。無論選擇何種方式,請計算每個使用者的訊息數量,而非每個連線的數量,並將計數儲存於不會因重新啟動而重置的位置。
應用程式成長後,請將對話歷史記錄保留在伺服器上。在每個回合從瀏覽器傳送完整的歷史記錄很容易建立,但使用者可以編輯它。在資料庫中以對話 id 儲存訊息,在每個請求時載入最後 20 則,並在串流結束後附加回覆。這也允許使用者關閉分頁並回到相同的聊天。
發布前
簡短的檢查清單可確保上線日平穩。
- 金鑰僅存在於伺服器的環境變數中,且儲存庫不包含它。
- 伺服器忽略來自客戶端的任何系統訊息。
- 每個使用者都有每日訊息上限和訊息長度上限。
- 錯誤顯示友善訊息,且永不列印內部詳細資訊。
- 您記錄來自
X-Request-Id標頭的請求 id 和 token 計數,而非完整文字。 - 請監控
X-Balance-USD,當額度不足時會收到警示。 - 您的條款明定僅限成人觀眾,且機器人不會產生涉及未成年人的性內容。
最後一點與 成人聊天機器人安全的指引相關。此 API 背後的模型經過調整,可在合法成人用途下無內容審查地回答,這使得您的年齡驗證與內容審核規則變得更重要,而非較不重要。此處的儲值僅限加密貨幣(TRC20 上的 USDT 或 Base 上的 USDC),金額介於 $20 至 $500 之間,新使用者可先領取 $0.50 的試用額度。
更多指南
問答
為什麼我不能直接在瀏覽器中使用 JavaScript 呼叫 API?
因為金鑰會對所有開啟網路分頁的人可見。後端代理伺服器將金鑰保留在您的伺服器上,並允許您為每個使用者設定限制。
API 是否支援串流輸出?
可以。將 stream 設為 true,API 會傳送 server-sent events,並在結尾附上用量資訊。您的代理伺服器可以將這些事件轉傳至瀏覽器。
我應該使用哪個 SDK?
任何 OpenAI SDK 或 HTTP 用戶端均可使用。將 Base URL 變更為 https://api.uncensoredchatbotapi.com/v1,使用您的金鑰,並將模型設為 uncensored。
如果太多使用者同時聊天會發生什麼事?
完整金鑰允許 8 個並行請求。超過此限制時,API 會回傳 429 狀態碼,其錯誤碼為 concurrency,因此請在伺服器端將額外請求排隊,並在短時間後重試。