Integracja API czatu: Podłącz endpoint czatu do swojej aplikacji
Integracja API czatbota ma jedną zasadę, której nie można pominąć: przeglądarka nigdy nie przechowuje klucza API. Postaw małe proxy backendowe pośrodku, przekaż odpowiedzi przez nie strumieniowo, a reszta to zwykły rozwój webowy.
Zaktualizowano

Kluczowe punkty
- Przeglądarka rozmawia z Twoim serwerem; Twój serwer rozmawia z API czatu z kluczem.
- Strumieniuj za pomocą zdarzeń wysyłanych przez serwer, aby odpowiedzi pojawiały się słowo po słowie.
- Ogranicz historię, ustaw limity na użytkownika i obsługuj odpowiedzi 429 krótkim oczekiwaniem.
- Endpoint jest kompatybilny z OpenAI, więc oficjalny SDK działa po zmianie bazowego URL.
Wzorzec na jednym obrazku
Każda bezpieczna integracja API czatu wygląda tak samo z góry. Strona w przeglądarce wysyła wiadomość użytkownika do Twojego własnego endpointu. Twój serwer dodaje prompt systemowy, przycina historię, dołącza klucz API i przesyła wywołanie. Odpowiedź wraca strumieniowo w ten sam sposób.
Browser --POST /api/chat--> Your server --POST /v1/chat/completions--> Chat API
Browser <--SSE stream------ Your server <--SSE stream----------------- Chat API
Proxy istnieje z czterech powodów: ukrywa klucz, pozwala sprawdzić, kto się łączy, pozwala ograniczyć koszty na użytkownika i daje jedno miejsce do zmiany ustawień modelu później. Klucz umieszczony w JavaScript po stronie klienta jest publiczny w momencie załadowania strony, a ktoś inny mógłby wydać Twój przedpłacony kredyt.
API jest zgodne z formatem OpenAI. Bazowy URL to https://api.uncensoredchatbotapi.com/v1, model to uncensored, a uwierzytelnianie to Authorization: Bearer YOUR_KEY. Pobierz klucz na stronie kluczy.
Krok 1: proxy serwera
Ten serwer Express przyjmuje konwersację, dodaje prompt systemowy, wywołuje API ze strumieniowaniem i przesyła tekst. Zainstaluj zależności za pomocą npm i express openai i ustaw CHAT_API_KEY w środowisku.
import express from "express";
import OpenAI from "openai";
const app = express();
app.use(express.json({ limit: "200kb" }));
app.use(express.static("public"));
const client = new OpenAI({
baseURL: "https://api.uncensoredchatbotapi.com/v1",
apiKey: process.env.CHAT_API_KEY,
});
const SYSTEM = "You are a helpful companion for adults. Keep replies under 150 words.";
app.post("/api/chat", async (req, res) => {
const incoming = Array.isArray(req.body.messages) ? req.body.messages : [];
const clean = incoming
.filter((m) => ["user", "assistant"].includes(m.role) && typeof m.content === "string")
.slice(-20)
.map((m) => ({ role: m.role, content: m.content.slice(0, 4000) }));
res.writeHead(200, { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" });
try {
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: SYSTEM }, ...clean],
stream: true,
});
for await (const part of stream) {
const t = part.choices[0]?.delta?.content;
if (t) res.write(`data: ${JSON.stringify(t)}\n\n`);
}
res.write("data: [DONE]\n\n");
} catch (e) {
res.write(`event: error\ndata: ${JSON.stringify(e.status === 429 ? "busy" : "failed")}\n\n`);
}
res.end();
});
app.listen(3000);
Zwróć uwagę na filtr. Klient może wysłać wszystko, więc serwer zachowuje tylko wiadomości user i assistant, obcina każdą z nich i ignoruje dowolną wiadomość system, którą przeglądarka próbuje wstrzyknąć. Prompt systemowy zawsze pochodzi z Twojego kodu.
Krok 2: strona przeglądarki
Przeglądarka odczytuje strumień za pomocą fetch i dołącza tekst w miarę jego napływania. Nie jest wymagana żadna biblioteka.
const messages = [];
async function send(text, out) {
messages.push({ role: "user", content: text });
const res = await fetch("/api/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ messages }),
});
const reader = res.body.getReader();
const dec = new TextDecoder();
let reply = "", buf = "";
while (true) {
const { done, value } = await reader.read();
if (done) break;
buf += dec.decode(value, { stream: true });
const events = buf.split("\n\n");
buf = events.pop();
for (const ev of events) {
if (ev === "data: [DONE]") break;
if (ev.startsWith("data: ")) {
reply += JSON.parse(ev.slice(6));
out.textContent = reply;
}
}
}
messages.push({ role: "assistant", content: reply });
}
Bufor ma znaczenie. Pakiety sieciowe nie pokrywają się z granicami zdarzeń, więc dzielisz je po pustej linii i zachowujesz niedokończony fragment na kolejne odczytanie. Aby przejść przez samą stronę, zobacz poradnik czatu internetowego, a w szerszym kontekście dodawania bota do witryny jak zaimplementować bota czatu na stronie.
Limity, błędy i ponawianie
Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę. Klucz próbny pozwala na 2 i 60. Żądanie strumieniowe zajmuje swoje miejsce do końca strumienia, więc z 8 miejscami możesz obsłużyć jednocześnie co najwyżej 8 żywych odpowiedzi. Jeśli Twoja strona ma więcej jednoczesnych użytkowników niż to, kolejkuj żądania na swoim serwerze i odpowiedz „chwilę proszę” zamiast zawieść.
- 429 z
concurrency: zbyt wiele żądań jest w toku. Zastosuj kolejkowanie i ponów próbę. - 429 z
rate_limited: za dużo zapytań na minutę. Zwolnij tempo. - 429 z nagłówkiem
Retry-After: 5: tymczasowe przeciążenie. Poczekaj 5 sekund i spróbuj ponownie. - 401: zły lub brakujący klucz.
- Treść powyżej 8 MB: odrzucona, więc obetnij to, co wysyłasz.
Dodaj mały licznik w pamięci, aby twój własny serwer nigdy nie otwierał więcej niż 8 strumieni upstream:
let active = 0;
const MAX = 8;
app.use("/api/chat", (req, res, next) => {
if (active >= MAX) return res.status(503).json({ error: "busy" });
active++;
res.on("close", () => { active--; });
next();
});
Zarejestruj to middleware przed trasą czatu. Zdarzenie close jest wywoływane, gdy odpowiedź się kończy lub użytkownik wychodzi, więc licznik nie ucieka.
Kontroluj koszt każdej rozmowy
Cena to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych. Ponieważ każda tura ponownie wysyła historię, limit historii jest Twoją największą dźwignią. Przy ostatnich 20 wiadomościach po około 60 tokenów każda plus 100-tokenowy prompt systemowy, żądanie zawiera około 1300 tokenów wejściowych. Odpowiedź 150 tokenów dodaje wyjście.
Koszt na turę: 1 300 / 1 000 000 x $0,15 = $0,000195, plus 150 / 1 000 000 x $0,50 = $0,000075, czyli $0,00027. Sesja 30 tur przy tym rozmiarze kosztuje najwyżej $0,0081, ponieważ początkowe tury są krótsze. Dzienny limit na użytkownika, np. 100 wiadomości, ogranicza Twój najgorszy przypadek do 100 x $0,00027 = $0,027 na użytkownika dziennie. Więcej o wycenie bota witryny znajdziesz na stronie koszt bota czatu na stronie, a do parametrów takich jak max_tokens użyj dokumentacji.
Kto wywołuje Twoje proxy
Proxy chroni klucz, ale staje się też darmowym endpointem czatu dla każdego, kto znajdzie URL. Zdecyduj, kto może go używać przed wysłaniem.
Dla strony publicznej podpisane ciasteczko sesji ustawiane przy logowaniu jest zwykle odpowiedzią. Sprawdź je na początku trasy i zwróć 401, gdy brakuje. Dla szybkiego prototypu limit na IP z pakietem takim jak express-rate-limit jest lepszy niż nic, choć sieci współdzielone sprawiają, że limity IP są tępe. Cokolwiek wybierzesz, zliczaj wiadomości na użytkownika, nie na połączenie, i przechowuj licznik tam, gdzie restart go nie zresetuje.
Przechowuj historię rozmowy na serwerze, gdy aplikacja urośnie. Wysyłanie całej historii z przeglądarki przy każdej turze jest łatwe do zbudowania, ale użytkownicy mogą ją edytować. Przechowuj wiadomości w bazie danych pod conversation id, ładuj ostatnie 20 przy każdym żądaniu i dołączaj odpowiedź po zakończeniu strumienia. Pozwala to też użytkownikowi zamknąć kartę i wrócić do tej samej rozmowy.
Przed uruchomieniem
Krótka lista kontrolna utrzymuje spokój w dniu uruchomienia.
- Klucz żyje tylko w zmiennej środowiskowej na serwerze, a repozytorium go nie zawiera.
- Serwer ignoruje każdą wiadomość systemową od klienta.
- Każdy użytkownik ma limit wiadomości dziennie i limit długości wiadomości.
- Błędy pokazują przyjazną wiadomość i nigdy nie drukują szczegółów wewnętrznych.
- Logujesz identyfikatory żądań z nagłówka
X-Request-Idi liczbę tokenów, a nie pełny tekst. - Śledzisz
X-Balance-USDi otrzymujesz alert, gdy kredyt się kończy. - Twoje regulaminy określają grupę odbiorców dorosłych, a bot nigdy nie produkuje treści seksualnych z udziałem nieletnich.
Ostatni punkt jest wspólny z wytycznymi dotyczącymi bezpieczeństwa czatu dla dorosłych. Model stojący za tym API jest dostrojony do odpowiadania bez odmów treści dla prawnego użytku przez pełnoletnich, co sprawia, że Twoje własne reguły ograniczania wiekowego i moderacji są ważniejsze, a nie mniej. Doładowania tutaj są tylko w kryptowalutach (USDT na TRC20 lub USDC na Base), od $20 do $500, a nowi użytkownicy mogą odebrać $0,50 kredytu próbnego najpierw.
Więcej przewodników
Pytania i odpowiedzi
Dlaczego nie mogę wywołać API bezpośrednio z JavaScript w przeglądarce?
Ponieważ klucz byłby widoczny dla każdego, kto otworzy zakładkę sieciową. Proxy backendowe trzyma klucz na Twoim serwerze i pozwala dodać limity dla każdego użytkownika.
Czy API obsługuje strumieniowanie?
Tak. Ustaw stream na true, a API zwraca zdarzenia wysyłane przez serwer (SSE), z użyciem na końcu. Twój proxy może przekazać te zdarzenia do przeglądarki.
Którego SDK powinienem użyć?
Działa dowolne SDK OpenAI lub klient HTTP. Zmień base URL na https://api.uncensoredchatbotapi.com/v1, użyj swojego klucza i ustaw model na uncensored.
Co się stanie, jeśli zbyt wielu użytkowników czata będzie czatować jednocześnie?
Pełny klucz pozwala na 8 równoległych zapytań. Po przekroczeniu tego limitu API zwraca 429 z kodem concurrency, więc kolejkuj dodatkowe zapytania na swoim serwerze i spróbuj ponownie po chwili.
Twój klucz jest o jeden formularz stąd
Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.