TH ▾
Uncensored Chatbot APIการเข้าถึง API โดยตรงไปยัง LLM แบบไร้การเซ็นเซอร์หนึ่งตัวรับคีย์ API

Uncensored Chatbot APIความปลอดภัย

การผสาน API แชทบอท: เชื่อมต่อเอนด์พอยต์แชทไปยังแอปของคุณ

การผสาน API แชทบอทมีกฎข้อเดียวที่คุณไม่สามารถละเลยได้: เบราว์เซอร์ไม่เคยเก็บคีย์ API ไว้ ให้วางพร็อกซีแบ็กเอนด์ขนาดเล็กไว้ตรงกลาง สตรีมคำตอบผ่านมัน และส่วนที่เหลือคือการพัฒนาเว็บทั่วไป

อัปเดต

ท่อแก้วที่เชื่อมลูกบาศก์เบราว์เซอร์และลูกบาศก์เซิร์ฟเวอร์ผ่านประตูที่ล็อกอยู่ แสดงพร็อกซีแชทแบ็กเอนด์

ประเด็นสำคัญ

  • เบราว์เซอร์สื่อสารกับเซิร์ฟเวอร์ของคุณ เซิร์ฟเวอร์ของคุณสื่อสารกับ API แชทด้วยคีย์
  • สตรีมด้วย server-sent events เพื่อให้คำตอบปรากฏทีละคำ
  • จำกัดประวัติ ตั้งขีดจำกัดต่อผู้ใช้ และจัดการการตอบกลับ 429 ด้วยการรอเล็กน้อย
  • เอนด์พอยต์นี้เข้ากันได้กับ OpenAI ดังนั้น SDK ทางการจึงใช้งานได้หลังจากเปลี่ยน base URL

รูปแบบในภาพเดียว

ทุกการผสาน api แชทบอท ที่ปลอดภัยจะดูเหมือนกันเมื่อมองจากด้านบน หน้าเว็บในเบราว์เซอร์ส่งข้อความของผู้ใช้ไปยังเอนด์พอยต์ของคุณ เซิร์ฟเวอร์ของคุณเพิ่มพรอมต์ระบบ ตัดประวัติ แนบคีย์ API และส่งคำขอต่อ คำตอบจะสตรีมกลับด้วยวิธีเดียวกัน

Browser  --POST /api/chat-->  Your server  --POST /v1/chat/completions-->  Chat API
Browser  <--SSE stream------  Your server  <--SSE stream-----------------  Chat API

พร็อกซีมีอยู่เพื่อสี่เหตุผล: ซ่อนคีย์ ตรวจสอบว่าใครกำลังเรียก ให้คุณจำกัดต้นทุนต่อผู้ใช้ได้ และให้คุณมีจุดเดียวในการเปลี่ยนการตั้งค่าโมเดลในภายหลัง คีย์ที่วางใน JavaScript หน้าเว็บจะเป็นสาธารณะทันทีที่โหลดหน้า และผู้อื่นจะใช้เครดิตแบบเติมเงินล่วงหน้าของคุณ

API นี้ปฏิบัติตามรูปแบบของ OpenAI base URL คือ https://api.uncensoredchatbotapi.com/v1 โมเดลคือ uncensored และการตรวจสอบสิทธิ์คือ Authorization: Bearer YOUR_KEY รับคีย์ที่หน้า คีย์

ขั้นตอนที่ 1: เซิร์ฟเวอร์พร็อกซี

เซิร์ฟเวอร์ Express นี้รับบทสนทนา เพิ่มระบบพรอมต์ เรียกใช้ API แบบสตรีมมิง และส่งต่อข้อความ ติดตั้ง dependencies ด้วย npm i express openai และตั้งค่า CHAT_API_KEY ใน environment

import express from "express";
import OpenAI from "openai";

const app = express();
app.use(express.json({ limit: "200kb" }));
app.use(express.static("public"));

const client = new OpenAI({
  baseURL: "https://api.uncensoredchatbotapi.com/v1",
  apiKey: process.env.CHAT_API_KEY,
});

const SYSTEM = "You are a helpful companion for adults. Keep replies under 150 words.";

app.post("/api/chat", async (req, res) => {
  const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
  const clean = incoming
    .filter((m) => ["user", "assistant"].includes(m.role) && typeof m.content === "string")
    .slice(-20)
    .map((m) => ({ role: m.role, content: m.content.slice(0, 4000) }));

  res.writeHead(200, { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" });
  try {
    const stream = await client.chat.completions.create({
      model: "uncensored",
      messages: [{ role: "system", content: SYSTEM }, ...clean],
      stream: true,
    });
    for await (const part of stream) {
      const t = part.choices[0]?.delta?.content;
      if (t) res.write(`data: ${JSON.stringify(t)}\n\n`);
    }
    res.write("data: [DONE]\n\n");
  } catch (e) {
    res.write(`event: error\ndata: ${JSON.stringify(e.status === 429 ? "busy" : "failed")}\n\n`);
  }
  res.end();
});

app.listen(3000);

โปรดระวังตัวกรอง ไคลเอนต์สามารถส่งข้อมูลอะไรก็ได้ ดังนั้นเซิร์ฟเวอร์จะเก็บเฉพาะข้อความ user และ assistant เท่านั้น ตัดทอนข้อความแต่ละส่วน และเพิกเฉยต่อข้อความ system ที่เบราว์เซอร์พยายามแทรก พรอมต์ระบบจะมาจากโค้ดของคุณเท่านั้น

ขั้นตอนที่ 2: ฝั่งเบราว์เซอร์

เบราว์เซอร์อ่านสตรีมด้วย fetch และเพิ่มข้อความเมื่อข้อมูลมาถึง ไม่จำเป็นต้องใช้ไลบรารี

const messages = [];

async function send(text, out) {
  messages.push({ role: "user", content: text });
  const res = await fetch("/api/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ messages }),
  });

  const reader = res.body.getReader();
  const dec = new TextDecoder();
  let reply = "", buf = "";

  while (true) {
    const { done, value } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const events = buf.split("\n\n");
    buf = events.pop();
    for (const ev of events) {
      if (ev === "data: [DONE]") break;
      if (ev.startsWith("data: ")) {
        reply += JSON.parse(ev.slice(6));
        out.textContent = reply;
      }
    }
  }
  messages.push({ role: "assistant", content: reply });
}

บัฟเฟอร์สำคัญ เพราะชิ้นส่วนเครือข่ายไม่ตรงกับขอบเขตเหตุการณ์ จึงตัดบรรทัดว่างและเก็บส่วนปลายที่ยังไม่เสร็จสำหรับการอ่านครั้งถัดไป สำหรับขั้นตอนการดูหน้าเว็บ ดู บทช่วยสอนเว็บแชท และสำหรับภาพรวมการเพิ่มบอทลงในเว็บไซต์ ดู วิธีนำแชทบอทไปใช้ในเว็บไซต์

ขีดจำกัด ข้อผิดพลาด และการทำซ้ำ

คีย์แบบเต็มอนุญาตคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที คีย์ทดลองอนุญาต 2 คำขอและ 60 คำขอต่อนาที คำขอแบบสตรีมจะครอบครองช่องของมันจนกว่าสตรีมจะสิ้นสุด ดังนั้นด้วย 8 ช่อง คุณจึงสามารถให้บริการคำตอบสดได้สูงสุด 8 คำตอบพร้อมกัน หากไซต์ของคุณมีผู้ใช้พร้อมกันมากกว่านั้น ให้จัดคิวคำขอในเซิร์ฟเวอร์ของคุณและตอบว่า "รอสักครู่" แทนที่จะล้มเหลว

  • 429 พร้อม concurrency: มีคำขอที่กำลังดำเนินการอยู่จำนวนมาก ให้คิวและลองใหม่
  • 429 พร้อม rate_limited: มีคำขอต่อนาทีมากเกินไป ให้ลดความเร็วลง
  • 429 พร้อม Retry-After: 5 เฮดเดอร์: เกิดการโอเวอร์โหลดชั่วคราว รอ 5 วินาทีแล้วลองอีกครั้ง
  • 401: คีย์ผิดหรือหายไป
  • Body ขนาดเกิน 8 MB: ถูกปฏิเสธ ดังนั้นให้ตัดทอนสิ่งที่ส่ง

เพิ่มตัวนับในหน่วยความจำขนาดเล็ก เพื่อให้เซิร์ฟเวอร์ของคุณเปิดสตรีมจาก upstream ได้ไม่เกิน 8 สตรีม:

let active = 0;
const MAX = 8;

app.use("/api/chat", (req, res, next) => {
  if (active >= MAX) return res.status(503).json({ error: "busy" });
  active++;
  res.on("close", () => { active--; });
  next();
});

ลงทะเบียน middleware นี้ก่อนเส้นทางแชท เหตุการณ์ close จะเกิดขึ้นเมื่อการตอบสนองสิ้นสุดหรือผู้ใช้ออก ทำให้ตัวนับไม่รั่วไหล

ควบคุมต้นทุนของแต่ละบทสนทนา

ราคาคือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens เนื่องจากแต่ละรอบจะส่งประวัติใหม่ ขอบเขตของประวัติจึงเป็นปัจจัยสำคัญที่สุด หากใช้ข้อความล่าสุด 20 ข้อความ ข้อความละประมาณ 60 tokens พร้อมระบบพรอมต์ 100 tokens คำขอจะมี input tokens ประมาณ 1,300 tokens การตอบกลับ 150 tokens จะเพิ่ม output

ต้นทุนต่อรอบ: 1,300 / 1,000,000 x $0.15 = $0.000195 บวก 150 / 1,000,000 x $0.50 = $0.000075 ดังนั้น $0.00027 เซสชัน 30 รอบที่ขนาดนั้นจะมีต้นทุนสูงสุด $0.0081 เนื่องจากรอบแรกๆ สั้นกว่า ขีดจำกัดรายวันต่อผู้ใช้ เช่น 100 ข้อความ จำกัดกรณีเลวร้ายที่สุดของคุณไว้ที่ 100 x $0.00027 = $0.027 ต่อผู้ใช้ต่อวัน สำหรับข้อมูลเพิ่มเติมเกี่ยวกับการกำหนดราคาบอทเว็บไซต์ อ่านหน้า ต้นทุนแชทบอทบนเว็บไซต์ และใช้ เอกสาร สำหรับพารามิเตอร์เช่น max_tokens

ใครกำลังเรียกใช้พร็อกซีของคุณ

พร็อกซีปกป้องคีย์ แต่ยังเป็นจุดสิ้นสุดแชทฟรีสำหรับทุกคนที่พบ URL นี้ ตัดสินใจว่าใครสามารถใช้มันได้ก่อนส่งมอบ

สำหรับเว็บไซต์สาธารณะ คุกกี้เซสชันที่ลงนามซึ่งตั้งค่าเมื่อเข้าสู่ระบบเป็นคำตอบทั่วไป ตรวจสอบที่ด้านบนของเส้นทางและส่งกลับ 401 เมื่อไม่มี สำหรับโปรโตไทป์อย่างรวดเร็ว ขีดจำกัดต่อ IP ด้วยแพ็คเกจเช่น express-rate-limit ดีกว่าไม่มีอะไรเลย แม้แต่เครือข่ายแบบแชร์ทำให้ขีดจำกัด IP ไม่แม่นยำ ไม่ว่าคุณจะเลือกอะไร ให้นับข้อความต่อผู้ใช้ ไม่ใช่ต่อการเชื่อมต่อ และเก็บการนับที่การรีสตาร์ทไม่สามารถรีเซ็ตได้

เก็บประวัติการสนทนาบนเซิร์ฟเวอร์เมื่อแอปพลิเคชันเติบโตขึ้น การส่งประวัติทั้งหมดจากเบราว์เซอร์ในทุกๆ รอบสร้างง่าย แต่ผู้ใช้สามารถแก้ไขได้ เก็บข้อความในฐานข้อมูลภายใต้ conversation id โหลดข้อความล่าสุด 20 ข้อความในทุกคำขอ และเพิ่มการตอบกลับหลังจากสตรีมสิ้นสุด วิธีนี้ยังช่วยให้ผู้ใช้ปิดแท็บแล้วกลับมาที่การสนทนาเดิมได้

ก่อนเปิดตัว

รายการตรวจสอบสั้นๆ ช่วยให้วันเปิดตัวเงียบสงบ

  1. คีย์อยู่ในตัวแปร environment บนเซิร์ฟเวอร์เท่านั้น และ repository ไม่เก็บคีย์ไว้
  2. เซิร์ฟเวอร์เพิกเฉยต่อข้อความระบบใดๆ จากไคลเอนต์
  3. ผู้ใช้แต่ละรายมีขีดจำกัดจำนวนข้อความต่อวันและขีดจำกัดความยาวข้อความ
  4. เมื่อเกิดข้อผิดพลาดจะแสดงข้อความที่เข้าใจง่าย และจะไม่แสดงรายละเอียดภายใน
  5. คุณบันทึก id ของคำขอจาก header X-Request-Id และจำนวนโทเคน ไม่ใช่ข้อความเต็ม
  6. คุณตรวจสอบ X-Balance-USD และรับการแจ้งเตือนเมื่อเครดิตเหลือน้อย
  7. ข้อกำหนดของคุณระบุกลุ่มเป้าหมายเป็นผู้ใหญ่เท่านั้น และบอทจะไม่สร้างเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์

ประเด็นสุดท้ายนี้สอดคล้องกับคำแนะนำเกี่ยวกับ ความปลอดภัยของแชทบอทสำหรับผู้ใหญ่ โมเดลที่อยู่เบื้องหลัง API นี้ได้รับการปรับแต่งให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ซึ่งทำให้กฎการจำกัดอายุและการตรวจสอบเนื้อหาของคุณมีความสำคัญมากขึ้น ไม่ใช่ลดลง การเติมเงินที่นี่รองรับเฉพาะคริปโต (USDT บน TRC20 หรือ USDC บน Base) ตั้งแต่ $20 ถึง $500 และผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ก่อน

ถาม-ตอบ

ทำไมฉันไม่สามารถเรียก API โดยตรงจาก JavaScript ในเบราว์เซอร์ได้

เพราะคีย์จะปรากฏต่อทุกคนที่เปิดแท็บเครือข่าย โปร๊กซีแบ็กเอนด์เก็บคีย์ไว้ที่เซิร์ฟเวอร์ของคุณและอนุญาตให้คุณกำหนดขีดจำกัดอัตราต่อผู้ใช้ได้

API รองรับสตรีมมิงหรือไม่

ได้ ตั้งค่า stream เป็น true และ API จะส่ง server-sent events พร้อมข้อมูลการใช้งานที่ส่วนท้าย โปร๊กซีของคุณสามารถส่งต่อเหตุการณ์เหล่านั้นไปยังเบราว์เซอร์ได้

ฉันควรใช้ SDK ไหน

SDK ของ OpenAI หรือไคลเอนต์ HTTP ใดๆ ก็ใช้งานได้ เปลี่ยน base URL เป็น https://api.uncensoredchatbotapi.com/v1 ใช้คีย์ของคุณ และตั้งค่าโมเดลเป็น uncensored

เกิดอะไรขึ้นหากมีผู้ใช้แชทพร้อมกันจำนวนมาก

คีย์แบบเต็มอนุญาตให้ทำคำขอพร้อมกัน (parallel requests) ได้ 8 ครั้ง หากเกินกว่านั้น API จะส่งสถานะ 429 พร้อมรหัส concurrency ดังนั้นให้คิวคำขอเพิ่มเติมในเซิร์ฟเวอร์ของคุณแล้วลองใหม่ในภายหลัง

คีย์ของคุณอยู่ห่างแค่การกรอกแบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ APIอ่านเอกสาร