การผสาน API แชทบอท: เชื่อมต่อเอนด์พอยต์แชทไปยังแอปของคุณ
การผสาน API แชทบอทมีกฎข้อเดียวที่คุณไม่สามารถละเลยได้: เบราว์เซอร์ไม่เคยเก็บคีย์ API ไว้ ให้วางพร็อกซีแบ็กเอนด์ขนาดเล็กไว้ตรงกลาง สตรีมคำตอบผ่านมัน และส่วนที่เหลือคือการพัฒนาเว็บทั่วไป
อัปเดต

ประเด็นสำคัญ
- เบราว์เซอร์สื่อสารกับเซิร์ฟเวอร์ของคุณ เซิร์ฟเวอร์ของคุณสื่อสารกับ API แชทด้วยคีย์
- สตรีมด้วย server-sent events เพื่อให้คำตอบปรากฏทีละคำ
- จำกัดประวัติ ตั้งขีดจำกัดต่อผู้ใช้ และจัดการการตอบกลับ 429 ด้วยการรอเล็กน้อย
- เอนด์พอยต์นี้เข้ากันได้กับ OpenAI ดังนั้น SDK ทางการจึงใช้งานได้หลังจากเปลี่ยน base URL
รูปแบบในภาพเดียว
ทุกการผสาน api แชทบอท ที่ปลอดภัยจะดูเหมือนกันเมื่อมองจากด้านบน หน้าเว็บในเบราว์เซอร์ส่งข้อความของผู้ใช้ไปยังเอนด์พอยต์ของคุณ เซิร์ฟเวอร์ของคุณเพิ่มพรอมต์ระบบ ตัดประวัติ แนบคีย์ API และส่งคำขอต่อ คำตอบจะสตรีมกลับด้วยวิธีเดียวกัน
Browser --POST /api/chat--> Your server --POST /v1/chat/completions--> Chat API
Browser <--SSE stream------ Your server <--SSE stream----------------- Chat API
พร็อกซีมีอยู่เพื่อสี่เหตุผล: ซ่อนคีย์ ตรวจสอบว่าใครกำลังเรียก ให้คุณจำกัดต้นทุนต่อผู้ใช้ได้ และให้คุณมีจุดเดียวในการเปลี่ยนการตั้งค่าโมเดลในภายหลัง คีย์ที่วางใน JavaScript หน้าเว็บจะเป็นสาธารณะทันทีที่โหลดหน้า และผู้อื่นจะใช้เครดิตแบบเติมเงินล่วงหน้าของคุณ
API นี้ปฏิบัติตามรูปแบบของ OpenAI base URL คือ https://api.uncensoredchatbotapi.com/v1 โมเดลคือ uncensored และการตรวจสอบสิทธิ์คือ Authorization: Bearer YOUR_KEY รับคีย์ที่หน้า คีย์
ขั้นตอนที่ 1: เซิร์ฟเวอร์พร็อกซี
เซิร์ฟเวอร์ Express นี้รับบทสนทนา เพิ่มระบบพรอมต์ เรียกใช้ API แบบสตรีมมิง และส่งต่อข้อความ ติดตั้ง dependencies ด้วย npm i express openai และตั้งค่า CHAT_API_KEY ใน environment
import express from "express";
import OpenAI from "openai";
const app = express();
app.use(express.json({ limit: "200kb" }));
app.use(express.static("public"));
const client = new OpenAI({
baseURL: "https://api.uncensoredchatbotapi.com/v1",
apiKey: process.env.CHAT_API_KEY,
});
const SYSTEM = "You are a helpful companion for adults. Keep replies under 150 words.";
app.post("/api/chat", async (req, res) => {
const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
const clean = incoming
.filter((m) => ["user", "assistant"].includes(m.role) && typeof m.content === "string")
.slice(-20)
.map((m) => ({ role: m.role, content: m.content.slice(0, 4000) }));
res.writeHead(200, { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" });
try {
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: SYSTEM }, ...clean],
stream: true,
});
for await (const part of stream) {
const t = part.choices[0]?.delta?.content;
if (t) res.write(`data: ${JSON.stringify(t)}\n\n`);
}
res.write("data: [DONE]\n\n");
} catch (e) {
res.write(`event: error\ndata: ${JSON.stringify(e.status === 429 ? "busy" : "failed")}\n\n`);
}
res.end();
});
app.listen(3000);
โปรดระวังตัวกรอง ไคลเอนต์สามารถส่งข้อมูลอะไรก็ได้ ดังนั้นเซิร์ฟเวอร์จะเก็บเฉพาะข้อความ user และ assistant เท่านั้น ตัดทอนข้อความแต่ละส่วน และเพิกเฉยต่อข้อความ system ที่เบราว์เซอร์พยายามแทรก พรอมต์ระบบจะมาจากโค้ดของคุณเท่านั้น
ขั้นตอนที่ 2: ฝั่งเบราว์เซอร์
เบราว์เซอร์อ่านสตรีมด้วย fetch และเพิ่มข้อความเมื่อข้อมูลมาถึง ไม่จำเป็นต้องใช้ไลบรารี
const messages = [];
async function send(text, out) {
messages.push({ role: "user", content: text });
const res = await fetch("/api/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ messages }),
});
const reader = res.body.getReader();
const dec = new TextDecoder();
let reply = "", buf = "";
while (true) {
const { done, value } = await reader.read();
if (done) break;
buf += dec.decode(value, { stream: true });
const events = buf.split("\n\n");
buf = events.pop();
for (const ev of events) {
if (ev === "data: [DONE]") break;
if (ev.startsWith("data: ")) {
reply += JSON.parse(ev.slice(6));
out.textContent = reply;
}
}
}
messages.push({ role: "assistant", content: reply });
}
บัฟเฟอร์สำคัญ เพราะชิ้นส่วนเครือข่ายไม่ตรงกับขอบเขตเหตุการณ์ จึงตัดบรรทัดว่างและเก็บส่วนปลายที่ยังไม่เสร็จสำหรับการอ่านครั้งถัดไป สำหรับขั้นตอนการดูหน้าเว็บ ดู บทช่วยสอนเว็บแชท และสำหรับภาพรวมการเพิ่มบอทลงในเว็บไซต์ ดู วิธีนำแชทบอทไปใช้ในเว็บไซต์
ขีดจำกัด ข้อผิดพลาด และการทำซ้ำ
คีย์แบบเต็มอนุญาตคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที คีย์ทดลองอนุญาต 2 คำขอและ 60 คำขอต่อนาที คำขอแบบสตรีมจะครอบครองช่องของมันจนกว่าสตรีมจะสิ้นสุด ดังนั้นด้วย 8 ช่อง คุณจึงสามารถให้บริการคำตอบสดได้สูงสุด 8 คำตอบพร้อมกัน หากไซต์ของคุณมีผู้ใช้พร้อมกันมากกว่านั้น ให้จัดคิวคำขอในเซิร์ฟเวอร์ของคุณและตอบว่า "รอสักครู่" แทนที่จะล้มเหลว
- 429 พร้อม
concurrency: มีคำขอที่กำลังดำเนินการอยู่จำนวนมาก ให้คิวและลองใหม่ - 429 พร้อม
rate_limited: มีคำขอต่อนาทีมากเกินไป ให้ลดความเร็วลง - 429 พร้อม
Retry-After: 5เฮดเดอร์: เกิดการโอเวอร์โหลดชั่วคราว รอ 5 วินาทีแล้วลองอีกครั้ง - 401: คีย์ผิดหรือหายไป
- Body ขนาดเกิน 8 MB: ถูกปฏิเสธ ดังนั้นให้ตัดทอนสิ่งที่ส่ง
เพิ่มตัวนับในหน่วยความจำขนาดเล็ก เพื่อให้เซิร์ฟเวอร์ของคุณเปิดสตรีมจาก upstream ได้ไม่เกิน 8 สตรีม:
let active = 0;
const MAX = 8;
app.use("/api/chat", (req, res, next) => {
if (active >= MAX) return res.status(503).json({ error: "busy" });
active++;
res.on("close", () => { active--; });
next();
});
ลงทะเบียน middleware นี้ก่อนเส้นทางแชท เหตุการณ์ close จะเกิดขึ้นเมื่อการตอบสนองสิ้นสุดหรือผู้ใช้ออก ทำให้ตัวนับไม่รั่วไหล
ควบคุมต้นทุนของแต่ละบทสนทนา
ราคาคือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens เนื่องจากแต่ละรอบจะส่งประวัติใหม่ ขอบเขตของประวัติจึงเป็นปัจจัยสำคัญที่สุด หากใช้ข้อความล่าสุด 20 ข้อความ ข้อความละประมาณ 60 tokens พร้อมระบบพรอมต์ 100 tokens คำขอจะมี input tokens ประมาณ 1,300 tokens การตอบกลับ 150 tokens จะเพิ่ม output
ต้นทุนต่อรอบ: 1,300 / 1,000,000 x $0.15 = $0.000195 บวก 150 / 1,000,000 x $0.50 = $0.000075 ดังนั้น $0.00027 เซสชัน 30 รอบที่ขนาดนั้นจะมีต้นทุนสูงสุด $0.0081 เนื่องจากรอบแรกๆ สั้นกว่า ขีดจำกัดรายวันต่อผู้ใช้ เช่น 100 ข้อความ จำกัดกรณีเลวร้ายที่สุดของคุณไว้ที่ 100 x $0.00027 = $0.027 ต่อผู้ใช้ต่อวัน สำหรับข้อมูลเพิ่มเติมเกี่ยวกับการกำหนดราคาบอทเว็บไซต์ อ่านหน้า ต้นทุนแชทบอทบนเว็บไซต์ และใช้ เอกสาร สำหรับพารามิเตอร์เช่น max_tokens
ใครกำลังเรียกใช้พร็อกซีของคุณ
พร็อกซีปกป้องคีย์ แต่ยังเป็นจุดสิ้นสุดแชทฟรีสำหรับทุกคนที่พบ URL นี้ ตัดสินใจว่าใครสามารถใช้มันได้ก่อนส่งมอบ
สำหรับเว็บไซต์สาธารณะ คุกกี้เซสชันที่ลงนามซึ่งตั้งค่าเมื่อเข้าสู่ระบบเป็นคำตอบทั่วไป ตรวจสอบที่ด้านบนของเส้นทางและส่งกลับ 401 เมื่อไม่มี สำหรับโปรโตไทป์อย่างรวดเร็ว ขีดจำกัดต่อ IP ด้วยแพ็คเกจเช่น express-rate-limit ดีกว่าไม่มีอะไรเลย แม้แต่เครือข่ายแบบแชร์ทำให้ขีดจำกัด IP ไม่แม่นยำ ไม่ว่าคุณจะเลือกอะไร ให้นับข้อความต่อผู้ใช้ ไม่ใช่ต่อการเชื่อมต่อ และเก็บการนับที่การรีสตาร์ทไม่สามารถรีเซ็ตได้
เก็บประวัติการสนทนาบนเซิร์ฟเวอร์เมื่อแอปพลิเคชันเติบโตขึ้น การส่งประวัติทั้งหมดจากเบราว์เซอร์ในทุกๆ รอบสร้างง่าย แต่ผู้ใช้สามารถแก้ไขได้ เก็บข้อความในฐานข้อมูลภายใต้ conversation id โหลดข้อความล่าสุด 20 ข้อความในทุกคำขอ และเพิ่มการตอบกลับหลังจากสตรีมสิ้นสุด วิธีนี้ยังช่วยให้ผู้ใช้ปิดแท็บแล้วกลับมาที่การสนทนาเดิมได้
ก่อนเปิดตัว
รายการตรวจสอบสั้นๆ ช่วยให้วันเปิดตัวเงียบสงบ
- คีย์อยู่ในตัวแปร environment บนเซิร์ฟเวอร์เท่านั้น และ repository ไม่เก็บคีย์ไว้
- เซิร์ฟเวอร์เพิกเฉยต่อข้อความระบบใดๆ จากไคลเอนต์
- ผู้ใช้แต่ละรายมีขีดจำกัดจำนวนข้อความต่อวันและขีดจำกัดความยาวข้อความ
- เมื่อเกิดข้อผิดพลาดจะแสดงข้อความที่เข้าใจง่าย และจะไม่แสดงรายละเอียดภายใน
- คุณบันทึก id ของคำขอจาก header
X-Request-Idและจำนวนโทเคน ไม่ใช่ข้อความเต็ม - คุณตรวจสอบ
X-Balance-USDและรับการแจ้งเตือนเมื่อเครดิตเหลือน้อย - ข้อกำหนดของคุณระบุกลุ่มเป้าหมายเป็นผู้ใหญ่เท่านั้น และบอทจะไม่สร้างเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์
ประเด็นสุดท้ายนี้สอดคล้องกับคำแนะนำเกี่ยวกับ ความปลอดภัยของแชทบอทสำหรับผู้ใหญ่ โมเดลที่อยู่เบื้องหลัง API นี้ได้รับการปรับแต่งให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ซึ่งทำให้กฎการจำกัดอายุและการตรวจสอบเนื้อหาของคุณมีความสำคัญมากขึ้น ไม่ใช่ลดลง การเติมเงินที่นี่รองรับเฉพาะคริปโต (USDT บน TRC20 หรือ USDC บน Base) ตั้งแต่ $20 ถึง $500 และผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ก่อน
คู่มือเพิ่มเติม
ถาม-ตอบ
ทำไมฉันไม่สามารถเรียก API โดยตรงจาก JavaScript ในเบราว์เซอร์ได้
เพราะคีย์จะปรากฏต่อทุกคนที่เปิดแท็บเครือข่าย โปร๊กซีแบ็กเอนด์เก็บคีย์ไว้ที่เซิร์ฟเวอร์ของคุณและอนุญาตให้คุณกำหนดขีดจำกัดอัตราต่อผู้ใช้ได้
API รองรับสตรีมมิงหรือไม่
ได้ ตั้งค่า stream เป็น true และ API จะส่ง server-sent events พร้อมข้อมูลการใช้งานที่ส่วนท้าย โปร๊กซีของคุณสามารถส่งต่อเหตุการณ์เหล่านั้นไปยังเบราว์เซอร์ได้
ฉันควรใช้ SDK ไหน
SDK ของ OpenAI หรือไคลเอนต์ HTTP ใดๆ ก็ใช้งานได้ เปลี่ยน base URL เป็น https://api.uncensoredchatbotapi.com/v1 ใช้คีย์ของคุณ และตั้งค่าโมเดลเป็น uncensored
เกิดอะไรขึ้นหากมีผู้ใช้แชทพร้อมกันจำนวนมาก
คีย์แบบเต็มอนุญาตให้ทำคำขอพร้อมกัน (parallel requests) ได้ 8 ครั้ง หากเกินกว่านั้น API จะส่งสถานะ 429 พร้อมรหัส concurrency ดังนั้นให้คิวคำขอเพิ่มเติมในเซิร์ฟเวอร์ของคุณแล้วลองใหม่ในภายหลัง
คีย์ของคุณอยู่ห่างแค่การกรอกแบบฟอร์มเดียว
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด