Tích hợp API Chatbot: Kết nối Endpoint Chat vào Ứng dụng của Bạn
Tích hợp API chatbot có một quy tắc bạn không thể bỏ qua: trình duyệt không bao giờ giữ khóa API. Đặt một proxy backend nhỏ ở giữa, truyền phát phản hồi qua nó, và phần còn lại là phát triển web thông thường.
Cập nhật

Điểm chính
- Trình duyệt giao tiếp với máy chủ của bạn; máy chủ của bạn giao tiếp với API chatbot bằng khóa.
- Truyền phát với các sự kiện gửi bởi máy chủ để phản hồi xuất hiện từng từ một.
- Giới hạn lịch sử, đặt giới hạn cho từng người dùng và xử lý phản hồi 429 bằng cách chờ một lát.
- Endpoint tương thích với OpenAI, vì vậy SDK chính thức hoạt động sau khi thay đổi base URL.
Mẫu hình trong một hình ảnh
Mọi tích hợp api chatbot an toàn đều giống nhau từ góc độ tổng thể. Một trang trong trình duyệt gửi tin nhắn của người dùng đến endpoint của riêng bạn. Máy chủ của bạn thêm prompt hệ thống, cắt ngắn lịch sử, đính kèm khóa API và chuyển tiếp yêu cầu. Phản hồi được truyền phát lại theo cách tương tự.
Browser --POST /api/chat--> Your server --POST /v1/chat/completions--> Chat API
Browser <--SSE stream------ Your server <--SSE stream----------------- Chat API
Proxy tồn tại vì bốn lý do: nó ẩn khóa, cho phép bạn kiểm tra ai đang gọi, cho phép bạn giới hạn chi phí cho mỗi người dùng và cung cấp cho bạn một nơi để thay đổi cài đặt mô hình sau này. Một khóa được đặt trong JavaScript phía trước sẽ công khai ngay khi trang tải, và ai đó sẽ tiêu tốn tín dụng trả trước của bạn.
API tuân theo định dạng OpenAI. Base URL là https://api.uncensoredchatbotapi.com/v1, mô hình là uncensored, và xác thực là Authorization: Bearer YOUR_KEY. Lấy khóa trên trang khóa.
Bước 1: proxy máy chủ
Máy chủ Express này chấp nhận một cuộc hội thoại, thêm một system prompt, gọi API với truyền phát và chuyển tiếp văn bản. Cài đặt các phụ thuộc bằng cách chạy npm i express openai và đặt CHAT_API_KEY trong môi trường.
import express from "express";
import OpenAI from "openai";
const app = express();
app.use(express.json({ limit: "200kb" }));
app.use(express.static("public"));
const client = new OpenAI({
baseURL: "https://api.uncensoredchatbotapi.com/v1",
apiKey: process.env.CHAT_API_KEY,
});
const SYSTEM = "You are a helpful companion for adults. Keep replies under 150 words.";
app.post("/api/chat", async (req, res) => {
const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
const clean = incoming
.filter((m) => ["user", "assistant"].includes(m.role) && typeof m.content === "string")
.slice(-20)
.map((m) => ({ role: m.role, content: m.content.slice(0, 4000) }));
res.writeHead(200, { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" });
try {
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: SYSTEM }, ...clean],
stream: true,
});
for await (const part of stream) {
const t = part.choices[0]?.delta?.content;
if (t) res.write(`data: ${JSON.stringify(t)}\n\n`);
}
res.write("data: [DONE]\n\n");
} catch (e) {
res.write(`event: error\ndata: ${JSON.stringify(e.status === 429 ? "busy" : "failed")}\n\n`);
}
res.end();
});
app.listen(3000);
Lưu ý bộ lọc. Client có thể gửi bất cứ thứ gì, vì vậy máy chủ chỉ giữ các tin nhắn user và assistant, cắt ngắn từng tin nhắn và bỏ qua bất kỳ tin nhắn system nào mà trình duyệt cố gắng tiêm vào. Prompt hệ thống luôn đến từ mã của bạn.
Bước 2: phía trình duyệt
Trình duyệt đọc luồng với fetch và nối văn bản khi nó đến. Không cần thư viện.
const messages = [];
async function send(text, out) {
messages.push({ role: "user", content: text });
const res = await fetch("/api/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ messages }),
});
const reader = res.body.getReader();
const dec = new TextDecoder();
let reply = "", buf = "";
while (true) {
const { done, value } = await reader.read();
if (done) break;
buf += dec.decode(value, { stream: true });
const events = buf.split("\n\n");
buf = events.pop();
for (const ev of events) {
if (ev === "data: [DONE]") break;
if (ev.startsWith("data: ")) {
reply += JSON.parse(ev.slice(6));
out.textContent = reply;
}
}
}
messages.push({ role: "assistant", content: reply });
}
Bộ đệm rất quan trọng. Các đoạn mạng không khớp với ranh giới sự kiện, vì vậy bạn tách ở dòng trống và giữ phần đuôi chưa hoàn thành cho lần đọc tiếp theo. Để xem hướng dẫn chi tiết về trang này, hãy xem hướng dẫn chat web, và để hiểu rõ hơn về việc thêm bot vào trang web, hãy xem cách triển khai chatbot trên trang web.
Giới hạn, lỗi và thử lại
Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Một khóa dùng thử cho phép 2 và 60. Một yêu cầu truyền phát chiếm khe của nó cho đến khi luồng kết thúc, vì vậy với 8 khe, bạn có thể phục vụ tối đa 8 phản hồi trực tiếp cùng lúc. Nếu trang web của bạn có nhiều người dùng đồng thời hơn mức đó, hãy xếp hàng các yêu cầu trên máy chủ của bạn và trả lời "một lát" thay vì báo lỗi.
- 429 với
concurrency: quá nhiều yêu cầu đang được xử lý. Xếp hàng và thử lại. - 429 với
rate_limited: quá nhiều yêu cầu mỗi phút. Giảm tốc độ. - 429 với tiêu đề
Retry-After: 5: quá tải tạm thời. Chờ 5 giây và thử lại. - 401: khóa sai hoặc thiếu.
- Phần thân trên 8 MB: bị từ chối, vì vậy hãy cắt bớt những gì bạn gửi.
Thêm một bộ đếm nhỏ trong bộ nhớ để máy chủ của bạn không bao giờ mở nhiều hơn 8 luồng lên:
let active = 0;
const MAX = 8;
app.use("/api/chat", (req, res, next) => {
if (active >= MAX) return res.status(503).json({ error: "busy" });
active++;
res.on("close", () => { active--; });
next();
});
Đăng ký middleware này trước route chat. Sự kiện close được kích hoạt khi phản hồi kết thúc hoặc người dùng rời đi, vì vậy bộ đếm không bị rò rỉ.
Kiểm soát chi phí của mỗi cuộc trò chuyện
Giá là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra. Vì mỗi lượt gửi lại lịch sử, giới hạn lịch sử là công cụ lớn nhất của bạn. Với 20 tin nhắn cuối cùng, mỗi tin khoảng 60 token cộng với prompt hệ thống 100 token, một yêu cầu chứa khoảng 1.300 token đầu vào. Một phản hồi 150 token sẽ tạo ra đầu ra.
Chi phí cho mỗi lượt: 1.300 / 1.000.000 x $0,15 = $0,000195, cộng 150 / 1.000.000 x $0,50 = $0,000075, tổng cộng $0,00027. Một phiên 30 lượt với kích thước đó tốn tối đa $0,0081, vì các lượt đầu ngắn hơn. Các giới hạn hàng ngày cho mỗi người dùng, ví dụ 100 tin nhắn, giới hạn trường hợp xấu nhất của bạn ở mức 100 x $0,00027 = $0,027 cho mỗi người dùng mỗi ngày. Để biết thêm về cách định giá bot trang web, hãy đọc trang chi phí chatbot trên trang web và sử dụng tài liệu cho các tham số như max_tokens.
Ai đang gọi proxy của bạn
Proxy bảo vệ khóa, nhưng nó cũng trở thành một endpoint chat miễn phí cho bất kỳ ai tìm thấy URL. Quyết định ai có thể sử dụng nó trước khi bạn phát hành.
Đối với một trang web công khai, một cookie phiên được ký khi đăng nhập là câu trả lời thông thường. Kiểm tra nó ở đầu route và trả về 401 khi nó bị thiếu. Đối với một nguyên mẫu nhanh, giới hạn mỗi IP với một gói như express-rate-limit tốt hơn không có gì, mặc dù các mạng chia sẻ làm cho giới hạn IP kém chính xác. Bất kể bạn chọn gì, hãy đếm tin nhắn cho mỗi người dùng, không phải cho mỗi kết nối, và lưu trữ số đếm ở nơi mà một lần khởi động lại không thể đặt lại nó.
Giữ lịch sử cuộc trò chuyện trên máy chủ khi ứng dụng phát triển. Gửi toàn bộ lịch sử từ trình duyệt trong mỗi lượt rất dễ xây dựng, nhưng người dùng có thể chỉnh sửa nó. Lưu các tin nhắn trong cơ sở dữ liệu dưới một id cuộc trò chuyện, tải 20 tin nhắn cuối cùng trong mỗi yêu cầu và thêm phản hồi sau khi luồng kết thúc. Điều đó cũng cho phép người dùng đóng tab và quay lại cùng một cuộc trò chuyện.
Trước khi bạn phát hành
Một danh sách kiểm tra ngắn giữ cho ngày phát hành yên tĩnh.
- Khóa chỉ sống trong một biến môi trường trên máy chủ, và kho lưu trữ không chứa nó.
- Máy chủ bỏ qua bất kỳ tin nhắn hệ thống nào từ máy khách.
- Mỗi người dùng có giới hạn tin nhắn mỗi ngày và giới hạn độ dài tin nhắn.
- Lỗi hiển thị một tin nhắn thân thiện và không bao giờ in chi tiết nội bộ.
- Bạn ghi lại các id yêu cầu từ tiêu đề
X-Request-Idvà số token, không phải văn bản đầy đủ. - Bạn theo dõi
X-Balance-USDvà nhận được cảnh báo khi tín dụng thấp. - Điều khoản của bạn nêu rõ đối tượng chỉ dành cho người lớn, và bot không bao giờ tạo ra nội dung tình dục liên quan đến người chưa thành niên.
Điểm cuối cùng được chia sẻ với hướng dẫn về an toàn chatbot cho người lớn. Mô hình đằng sau API này được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người lớn hợp pháp, điều này làm cho các quy tắc xác minh độ tuổi và kiểm duyệt của bạn quan trọng hơn, không phải ít hơn. Nạp tiền ở đây chỉ bằng tiền mã hóa (USDT trên TRC20 hoặc USDC trên Base), từ $20 đến $500, và người dùng mới có thể nhận $0,50 dùng thử trước.
Hướng dẫn khác
Hỏi đáp
Tại sao tôi không thể gọi API trực tiếp từ JavaScript trong trình duyệt?
Bởi vì khóa sẽ hiển thị với bất kỳ ai mở tab mạng. Một proxy backend giữ khóa trên máy chủ của bạn và cho phép bạn thêm giới hạn cho mỗi người dùng.
API có hỗ trợ truyền phát (streaming) không?
Có. Đặt stream thành true và API gửi các sự kiện gửi bởi máy chủ, với thông tin sử dụng ở cuối. Proxy của bạn có thể chuyển tiếp các sự kiện đó về trình duyệt.
Tôi nên dùng SDK nào?
Bất kỳ SDK OpenAI hoặc máy khách HTTP nào cũng hoạt động. Thay đổi URL cơ sở thành https://api.uncensoredchatbotapi.com/v1, sử dụng khóa của bạn và đặt mô hình thành uncensored.
Điều gì xảy ra nếu quá nhiều người dùng chat cùng lúc?
Một khóa đầy đủ cho phép 8 yêu cầu đồng thời. Vượt quá mức đó, API trả về 429 với mã concurrency, vì vậy hãy xếp hàng các yêu cầu bổ sung trên máy chủ của bạn và thử lại sau một thời gian ngắn.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.