如何在網站實作聊天機器人:逐步教學
學習如何在網站專案中實作聊天機器人,主要分為三個部分:瀏覽器中的聊天框、持有 API 金鑰的小型後端,以及對 OpenAI 相容端點的請求。本指南使用可運作的程式碼逐步建立這些部分。
更新於

重點摘要
- 切勿從瀏覽器程式碼呼叫 API。將金鑰保留在伺服器上,並公開您自己的 /api/chat 路由。
- API 與 OpenAI 相容,因此設定基礎 URL 並使用 uncensored 模型後,標準 SDK 即可運作。
- 串流輸出回覆以讓頁面感覺快速,並在伺服器上限制歷史記錄。
- 處理 429 回應並設定每位訪客的限制,因為完整金鑰允許 8 個並行請求。
架構圖
在網站專案中實作聊天機器人的常見方式是三步轉送機制。訪客在聊天框中輸入。您的頁面將訊息傳送至您自己的伺服器。您的伺服器使用您的金鑰呼叫模型 API,並將答案傳回。瀏覽器不會看到金鑰。
這很重要,因為前端 JavaScript 中的任何內容都是公開的。如果你將金鑰放在 script 標籤中,任何開啟開發者工具的人都可以複製它並消耗你的額度。後端路由也讓你有一個地方可以新增速率限制、歷史記錄修剪、日誌記錄和年齡檢查。若要查看已完成頁面的詳細步驟,請參見 網頁聊天教學。
步驟 1:取得金鑰並測試端點
使用 Google 或電子郵件與密碼註冊,然後在 API 金鑰頁面領取免費試用。試用額度為 $0.50,有效期為 7 天,每人限領一次,且無需付款。將金鑰儲存為環境變數,不要放在程式碼中。
在撰寫任何應用程式程式碼之前,請使用 curl 檢查其是否運作:
export API_KEY="YOUR_KEY"
curl https://api.uncensoredchatbotapi.com/v1/models -H "Authorization: Bearer $API_KEY"
curl https://api.uncensoredchatbotapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'第一次呼叫列出模型,第二次回傳聊天完成。如果兩者都成功,表示金鑰和基礎 URL 正確。401 表示金鑰錯誤或缺少 Bearer 前綴。
步驟 2:撰寫後端路由
以下範例使用 Node 18 或更新版本、Express 和官方 openai 套件。使用 npm install express openai 安裝它們,並在 package.json 中設定 "type": "module"。
import express from "express";
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredchatbotapi.com/v1",
apiKey: process.env.API_KEY,
});
const SYSTEM = "You are a helpful assistant for our website. Keep answers under 150 words.";
const app = express();
app.use(express.json({ limit: "100kb" }));
app.use(express.static("public"));
app.post("/api/chat", async (req, res) => {
const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
const history = incoming.slice(-10).map((m) => ({
role: m.role === "assistant" ? "assistant" : "user",
content: String(m.content).slice(0, 4000),
}));
try {
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: SYSTEM }, ...history],
stream: true,
});
res.setHeader("Content-Type", "text/plain; charset=utf-8");
for await (const chunk of stream) {
const text = chunk.choices[0]?.delta?.content;
if (text) res.write(text);
}
} catch (err) {
if (res.headersSent === false) res.status(err.status === 429 ? 429 : 502);
}
res.end();
});
app.listen(3000, () => console.log("Listening on http://localhost:3000"));這裡有三個細節發揮實際作用。伺服器自行重建訊息列表,因此訪客無法注入假的系統訊息。它只保留最後 10 則訊息,並將每則限制為 4,000 個字元,以控制成本。並且它總是明確設定角色,將任何未知內容對應到 user。
步驟 3:建立聊天框
將其放入 public/index.html。它使用純 JavaScript,無需任何框架,因此你可以將其貼到既有範本中。
<div id="log"></div>
<form id="form">
<input id="input" autocomplete="off" required />
<button>Send</button>
</form>
<script>
const messages = [];
const log = document.getElementById("log");
document.getElementById("form").addEventListener("submit", async (e) => {
e.preventDefault();
const input = document.getElementById("input");
messages.push({ role: "user", content: input.value });
log.insertAdjacentHTML("beforeend", "<p></p>");
log.lastElementChild.textContent = "You: " + input.value;
input.value = "";
const reply = document.createElement("p");
log.appendChild(reply);
const res = await fetch("/api/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ messages }),
});
if (res.ok === false) { reply.textContent = "Busy, please try again in a moment."; return; }
const reader = res.body.getReader();
const decoder = new TextDecoder();
let full = "";
while (true) {
const { done, value } = await reader.read();
if (done) break;
full += decoder.decode(value, { stream: true });
reply.textContent = full;
}
messages.push({ role: "assistant", content: full });
});
</script>對模型回傳內容使用 textContent 而不是 innerHTML,可防止回覆將標記注入你的頁面。即使模型表現良好,也要保持這個習慣。
步驟 4:處理限制和錯誤
完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行和每分鐘 60 個請求。當你超過限制時,API 會回傳 HTTP 429 與錯誤代碼:rate_limited表示每分鐘請求數過多,或 concurrency表示同時請求過多。在暫時過載時,它也會回傳 429 與 Retry-After: 5標頭。
遵循兩個實用規則。首先,在延遲後重試 429,並使用短後退,如果持續失敗,則向訪客顯示友善訊息。其次,記住串流請求會在其串流結束前佔用其並行槽位。如果十位訪客在完整金鑰上同時串流,其中兩位將被拒絕,因此請在伺服器上新增小型佇列或每位訪客的限制。對於小型網站,以 IP 為鍵的簡單記憶體計數器就足夠了。
回應標頭可協助您除錯:X-Request-Id 在聯繫支援時識別呼叫,X-Balance-USD 顯示您的剩餘信用額度。請求主體限制為 8 MB,遠高於聊天所需,上下文視窗為 100,000 token。
部署時的陷阱
上述程式碼在 localhost 上運作。這些是在真實伺服器上出現的問題。
- 緩衝代理。 某些反向代理會在完成前保留串流輸出回應,因此回覆會一次顯示。如果您使用 nginx,請關閉聊天路由的回應緩衝。透過與生產環境相同的代理鏈測試串流輸出,而不僅是在您的筆記型電腦上。
- 儲存庫中的金鑰。 將金鑰保留在環境變數或機密儲存庫中,並將任何本地環境檔案新增至您的忽略列表。如果金鑰最終出現在公共儲存庫中,請建立新的金鑰並停止使用舊金鑰。
- 信任客戶端。 瀏覽器傳送聊天歷史,因此訪客可以編輯它。這就是為什麼步驟 2 中的伺服器自行設定角色並限制訊息長度的原因。切勿接受來自客戶端的系統訊息。
- 跨來源呼叫。 如果您的頁面和後端位於不同的網域,瀏覽器將阻止請求,直到您的伺服器傳送正確的 CORS 標頭。從同一個來源提供兩者可避免此問題。
- 失控的成本。 一個腳本訪客可以傳送數百則訊息。在伺服器上計算每個 IP 或會話的請求數,並在計數過高時拒絕。也限制訊息長度,如範例所示。
- Markdown 和連結。 模型通常會以列表和程式碼柵欄回覆。決定是否渲染該內容或顯示純文字,並且切勿將回覆文字插入為原始 HTML。
最後一項檢查是行動裝置版面配置。公共網站上的大多數聊天流量來自手機,因此請使用窄螢幕、開啟軟體鍵盤和不穩定的連線進行測試。如果串流在中途中斷,訪客應能夠重新傳送而不失去線索。
稍後擴充機器人
一旦基本中繼運作,相同的路由可以執行更多工作,因為 API 支援標準 OpenAI 功能。你可以透過將 response_format 設為 {"type": "json_object"} 並在提示詞中說明回覆必須是 JSON,來要求結構化輸出。這適合潛在客戶表單,可將自由文字訊息轉換為名稱、主題和緊急程度等欄位。
工具呼叫讓模型要求您的伺服器執行函式,例如查詢訂單或檢查營業時間。您傳遞 tools 列表,在回應中讀取 tool_calls,自行執行函式,並將結果作為帶有 role: "tool" 的訊息傳回。然後模型根據您的資料撰寫最終答案。這就是網站機器人如何取得實際資料而不是猜測。
採樣設定也對您開放。較低的 temperature 適合事實性客服,較高的 temperature 適合故事講述。一次新增一個變更,並在相同的五個測試問題上比較結果。
步驟 5:塑造機器人並上線
系統提示詞定義您的機器人。告訴它它是誰、涵蓋什麼以及答案應該多長。如果角色有個性,人格設計 的說明更深入。因為模型經過調整,可為合法成人用途無審查地回答,所以您受眾的防護欄是您要撰寫的:年齡確認、回報連結和清晰列出機器人不會討論的內容。涉及未成年人的性內容永遠不被允許。在推出之前,請參閱 負責任的使用和保障措施 頁面。
在成本方面,您每 1M 輸入 token 支付 $0.15,每 1M 輸出 token 支付 $0.50。回覆包含 1,200 個輸入 token 和 300 個輸出 token 的成本為 $0.00018 加上 $0.00015,即 $0.00033。$20 的儲值可涵蓋超過 60,000 次此類回覆。儲值範圍從 $20 到 $500,儲值 $50 以上贈送 5%,$100 以上贈送 10%,$200 以上贈送 15%,以 TRC20 上的 USDT 或 Base 上的 USDC 支付。額度永不過期。定價頁面 有詳細資訊,文件 列出了每個支援的參數,包括工具呼叫和 JSON 模式。
在推出之前,請用幾段長對話進行測試,觀察 429 的日誌,並確認您的伺服器修剪歷史。提示詞不用於訓練,但您仍應告訴您的訪客您儲存了什麼。
更多指南
問答
我可以從瀏覽器 JavaScript 直接呼叫 API 嗎?
可以,但不建議。金鑰將對所有訪客可見。請透過您自己的伺服器路由請求,並將金鑰保留在環境變數中。
哪些語言和 SDK 可用?
任何 OpenAI SDK 或 HTTP 客戶端。將 Base URL 設為 https://api.uncensoredchatbotapi.com/v1,將金鑰用作 Bearer token,並將模型設為 uncensored。Python、Node 和 curl 均可使用。
串流輸出在瀏覽器中可行嗎?
可以。API 透過 SSE 進行串流輸出,並將 stream 設為 true。範例透過 fetch 和串流讀取器,將文字透過你的伺服器轉送。
當我達到速率限制時會發生什麼事?
您會收到 HTTP 429,錯誤代碼為 rate_limited 或 concurrency。等待並重試。對於暫時過載,Retry-After 標頭為 5 秒。