如何在网站中逐步实现聊天机器人
学习如何在网站项目中实现聊天机器人归结为三个部分:浏览器中的聊天框、保存 API 密钥的小型后端,以及对 OpenAI 兼容接口的调用。本指南将使用有效代码构建每个部分。
更新于

要点
- 切勿从浏览器代码调用 API。将密钥保留在服务器上,并暴露你自己的 /api/chat 路由。
- 该 API 与 OpenAI 兼容,因此设置基础 URL 并使用模型 uncensored 后,标准 SDK 即可工作。
- 流式回复使页面感觉更快,并在服务器端限制历史记录。
- 处理 429 响应并设置每个访客的限制,因为完整密钥允许 8 个并发请求。
架构一览
在网站项目中实现聊天机器人的通常方式是三步中继。访客在聊天框中输入。你的页面将消息发送到你自己的服务器。你的服务器使用你的密钥调用模型 API 并将答案传回。浏览器永远不会看到密钥。
这很重要,因为前端 JavaScript 中的任何内容都是公开的。如果你将密钥放在 script 标签中,任何打开开发者工具的人都可以复制它并消耗你的余额。后端路由还让你有一个地方添加速率限制、历史修剪、日志记录和年龄门控。有关已完成页面的更详细指南,请参阅 网页聊天教程。
步骤 1:获取密钥并测试接口
使用 Google 或电子邮件和密码注册,然后在 API 密钥页面 领取免费试用。试用额度为 $0.50,有效期 7 天,每人限领一次,无需支付。将密钥保存为环境变量,不要保存在代码中。
在编写任何应用代码之前,使用 curl 检查其是否有效:
export API_KEY="YOUR_KEY"
curl https://api.uncensoredchatbotapi.com/v1/models -H "Authorization: Bearer $API_KEY"
curl https://api.uncensoredchatbotapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'第一次调用列出模型,第二次返回聊天完成。如果两者都成功,则密钥和 base URL 正确。401 表示密钥错误或缺少 Bearer 前缀。
步骤 2:编写后端路由
下面的示例使用 Node 18 或更高版本、Express 和官方 openai 包。使用 npm install express openai 安装它们,并在 package.json 中设置 "type": "module"。
import express from "express";
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredchatbotapi.com/v1",
apiKey: process.env.API_KEY,
});
const SYSTEM = "You are a helpful assistant for our website. Keep answers under 150 words.";
const app = express();
app.use(express.json({ limit: "100kb" }));
app.use(express.static("public"));
app.post("/api/chat", async (req, res) => {
const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
const history = incoming.slice(-10).map((m) => ({
role: m.role === "assistant" ? "assistant" : "user",
content: String(m.content).slice(0, 4000),
}));
try {
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: SYSTEM }, ...history],
stream: true,
});
res.setHeader("Content-Type", "text/plain; charset=utf-8");
for await (const chunk of stream) {
const text = chunk.choices[0]?.delta?.content;
if (text) res.write(text);
}
} catch (err) {
if (res.headersSent === false) res.status(err.status === 429 ? 429 : 502);
}
res.end();
});
app.listen(3000, () => console.log("Listening on http://localhost:3000"));这里有三个细节真正起作用。服务器自己重建消息列表,因此访客无法注入假系统消息。它只保留最后 10 条消息,并将每条截断为 4,000 个字符,从而控制成本。并且它始终显式设置角色,将任何未知内容映射到 user。
步骤 3:构建聊天框
将此放入 public/index.html。它使用纯 JavaScript,没有框架,因此你可以将其粘贴到现有模板中。
<div id="log"></div>
<form id="form">
<input id="input" autocomplete="off" required />
<button>Send</button>
</form>
<script>
const messages = [];
const log = document.getElementById("log");
document.getElementById("form").addEventListener("submit", async (e) => {
e.preventDefault();
const input = document.getElementById("input");
messages.push({ role: "user", content: input.value });
log.insertAdjacentHTML("beforeend", "<p></p>");
log.lastElementChild.textContent = "You: " + input.value;
input.value = "";
const reply = document.createElement("p");
log.appendChild(reply);
const res = await fetch("/api/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ messages }),
});
if (res.ok === false) { reply.textContent = "Busy, please try again in a moment."; return; }
const reader = res.body.getReader();
const decoder = new TextDecoder();
let full = "";
while (true) {
const { done, value } = await reader.read();
if (done) break;
full += decoder.decode(value, { stream: true });
reply.textContent = full;
}
messages.push({ role: "assistant", content: full });
});
</script>对模型输出使用 textContent 而不是 innerHTML 可以防止回复将标记注入你的页面。即使模型表现良好,也要保持这种习惯。
步骤 4:处理限制和错误
完整密钥允许 8 个并发请求和每分钟 300 个请求。试用密钥允许 2 个并发和每分钟 60 个请求。当你超过限制时,API 返回 HTTP 429 并附带错误代码:rate_limited 表示每分钟请求数超限,或 concurrency 表示同时请求过多。在临时过载时,它还会返回带有 Retry-After: 5 头的 429。
遵循两个实用规则。首先,在延迟后重试 429,使用短退避,如果持续失败,向访客显示友好消息。其次,记住流式请求在流结束之前会占用其并发槽位。如果十个访客在完整密钥上同时流式传输,其中两个将被拒绝,因此在你的服务器上添加一个小队列或每个访客的限制。对于小型网站,基于 IP 的简单内存计数器就足够了。
响应标头帮助你调试:X-Request-Id 在联系支持时标识调用,X-Balance-USD 显示你的剩余额度。请求体限制为 8 MB,远高于聊天所需,上下文窗口为 100,000 token。
部署时的陷阱
上面的代码在 localhost 上有效。这些是在真实服务器上出现时才会出现的问题。
- 缓冲代理。 一些反向代理会保留流式输出直到完成,因此回复会一次性出现。如果你使用 nginx,请关闭聊天路由的响应缓冲。通过生产中使用的相同代理链测试流式输出,而不仅仅是在笔记本电脑上测试。
- 仓库中的密钥。 将密钥保存在环境变量或密钥存储中,并将任何本地 env 文件添加到忽略列表中。如果密钥最终出现在公共仓库中,请创建一个新的并停止使用旧的。
- 信任客户端。 浏览器发送聊天历史,因此访客可以编辑它。这就是为什么步骤 2 中的服务器自己设置角色并截断消息长度的原因。切勿从客户端接受系统消息。
- 跨域调用。 如果你的页面和你的后端位于不同的域,浏览器将阻止请求,直到你的服务器发送正确的 CORS 标头。从同一个源提供两者可以避免这个问题。
- 失控的成本。 一个脚本访客可以发送数百条消息。在服务器上计算每个 IP 或会话的请求数,并在计数过高时拒绝。还要限制消息长度,正如示例所做的那样。
- Markdown 和链接。 模型通常会回复列表和代码块。决定你是渲染这些还是显示纯文本,并且永远不要将回复文本作为原始 HTML 插入。
最后的检查是移动布局。公共站点上的大多数聊天流量来自手机,因此请在窄屏幕、打开软件键盘和连接不稳定时进行测试。如果流在半途断开,访客应该能够在不丢失线程的情况下重新发送。
稍后扩展机器人
一旦基本代理工作,相同的路由可以做更多事情,因为 API 支持标准的 OpenAI 功能。你可以通过将 response_format 设置为 {"type": "json_object"} 并在提示词中说明回复必须是 JSON 来请求结构化输出。这适合将自由文本消息转换为名称、主题和紧急程度等字段的潜在客户表单。
函数调用让模型要求你的服务器运行函数,例如查找订单或检查营业时间。你传递一个 tools 列表,在响应中读取 tool_calls,自己运行函数,并将结果作为带有 role: "tool" 的消息发送回去。然后模型根据你的数据编写最终答案。这就是网站机器人获取真实信息而不是猜测的方式。
采样设置也对你开放。较低的温度适合事实性帮助中心,较高的温度适合讲故事。一次只添加一个更改,并在相同的五个测试问题上比较结果。
步骤 5:塑造机器人并上线
系统提示词定义了你的机器人。告诉它它是什么,它涵盖什么以及回答应该有多长。如果角色有个性,角色设计 的说明会更深入。由于模型经过调整,可以在合法成人使用中无内容拒绝地回答,因此你受众的防护栏由你编写:年龄确认、报告链接和清晰列出机器人不会讨论的内容。涉及未成年人的性内容永远不允许。在发布前,请参阅 负责任使用与安全措施 页面。
在成本方面,你为每 1M 输入 token 支付 $0.15,为每 1M 输出 token 支付 $0.50。一条包含 1,200 个输入 token 和 300 个输出 token 的回复成本为 $0.00018 加上 $0.00015,即 $0.00033。$20 的充值可以覆盖超过 60,000 条此类回复。充值从 $20 到 $500 不等,$50 起 +5%,$100 起 +10%,$200 起 +15%,通过 TRC20 上的 USDT 或 Base 上的 USDC 支付。额度永不失效。定价页面 有详细信息,文档 列出了所有支持的参数,包括工具调用和 JSON 模式。
在发布之前,用几次长对话进行测试,观察 429 的日志,并确认你的服务器修剪历史。提示词不用于训练,但你仍应告诉你的访客你存储了什么。
更多指南
问答
可以直接从浏览器 JavaScript 调用 API 吗?
可以,但不建议。密钥会对所有访客可见。通过你自己的服务器路由请求,并将密钥保存在环境变量中。
哪些语言和 SDK 可用?
任何 OpenAI SDK 或 HTTP 客户端均可。将 base URL 设置为 https://api.uncensoredchatbotapi.com/v1,将密钥用作 bearer token,并将模型设置为 uncensored。Python、Node 和 curl 均适用。
流式传输在浏览器中有效吗?
是的。API 通过 SSE 流式传输,设置 stream 为 true。示例通过 fetch 和流读取器将文本通过你的服务器中继。
达到速率限制时会发生什么?
你会收到 HTTP 429 错误,代码为 rate_limited 或 concurrency。等待并重试。对于临时过载,Retry-After 标头为 5 秒。