RU ▾
Uncensored Chatbot APIПрямой API-доступ к LLM без цензурыПолучить API-ключ

Uncensored Chatbot APIБезопасность

Тарификация API чат-бота: стоимость диалога

Тарификацию API чат-бота проще оценивать за диалог, а не за токен. При цене $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов диалог на 20 ходов стоит около $0,0068, а приведённые ниже расчёты показывают почему.

Обновлено

Стопка из растущих пузырей чата на весах рядом со счётчиком, иллюстрирующая стоимость за разговор

Ключевые моменты

  • Чат из 10 реплик стоит около $0,0022, из 20 реплик — $0.0068, а чат без обрезки на 40 ходов — $0.0232.
  • Повторная отправка истории на каждом ходу заставляет стоимость ввода расти быстрее, чем количество ходов.
  • Обрезка истории до последних 10 ходов снижает стоимость диалога на 40 ходов с $0,0232 до $0,0127.
  • Оплата предоплаченная, только криптовалютой, без подписки и без сгорания баланса.

Стоимость диалога в цифрах

Большинство страниц с ценами на API для чат-ботов указывают тариф за миллион токенов, что мало говорит о реальной стоимости чата. Вот ответ в понятной вам единице, при следующих допущениях: системный промпт на 300 токенов, 40 токенов на сообщение пользователя и 120 токенов на ответ.

ДиалогВходные токеныВыходные токеныСтоимость входаСтоимость выходаИтого
10 ходов10 6001 200$0,00159$0,0006$0,00219
20 реплик37 2002 400$0,00558$0,0012$0,00678
40 реплик, полная история138 4004 800$0,02076$0,0024$0,02316
40 реплик, сохранено 10 последних68 8004 800$0,01032$0,0024$0,01272

На тысячу разговоров это $2,19, $6,78, $23,16 и $12,72. Цены составляют $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов. Ваши цифры будут отличаться при более длинных промптах или ответах, поэтому в следующих разделах показано, откуда взялась каждая цифра.

Почему доминирует ввод

API чата не имеет состояния. Каждый запрос должен содержать системный промпт и всю видимую историю, потому что сервер не запоминает предыдущие вызовы. На реплике k входные данные включают системный промпт, (k минус 1) предыдущих пар пользователь-ответ и новое сообщение.

Если S — системный промпт, u — сообщение пользователя, r — ответ, а T — количество реплик, то общий объём ввода за диалог равен T x S + T x u + (u + r) x T x (T минус 1) / 2. Последнее слагаемое растёт пропорционально квадрату T. Для строки на 20 реплик: 20 x 300 = 6 000, плюс 20 x 40 = 800, плюс 160 x 190 = 30 400. Сумма составляет 37 200 входных токенов. Выходные данные — это просто T x r = 2 400 токенов.

Именно квадратичный член объясняет, почему увеличение разговора с 20 до 40 реплик умножает стоимость примерно в 3,4 раза (с $0,00678 до $0,02316), а не в 2. Это также объясняет, почему цена вывода, хотя и выше за токен, редко является основной статьёй в счёте. В разговоре на 20 реплик ввод стоит $0,00558 из $0,00678, или 82%.

Калькулятор для повторного использования

Подставьте свои числа в эту функцию. Она считает историю точно так же, как клиент чата отправил бы её повторно, с возможностью ограничения количества сохраняемых ходов.

def convo_cost(turns, sys_tok=300, user_tok=40, reply_tok=120, keep=None,
               rate_in=0.15, rate_out=0.50):
    inp = out = 0
    for k in range(turns):
        past = k if keep is None else min(k, keep)
        inp += sys_tok + past * (user_tok + reply_tok) + user_tok
        out += reply_tok
    return inp, out, inp / 1e6 * rate_in + out / 1e6 * rate_out

print(convo_cost(20))           # (37200, 2400, 0.00678)
print(convo_cost(40))           # (138400, 4800, 0.02316)
print(convo_cost(40, keep=10))  # (68800, 4800, 0.01272)

Замените константы на средние значения из реального трафика. Каждый ответ API возвращает объект usage с токенами промпта и завершения, а заголовок X-Balance-USD показывает баланс, поэтому вы можете проверить калькулятор по фактическим расходам после дня тестирования.

Пять способов снизить счёт

  1. Ограничьте историю. Сохраняйте последние 10 реплик. В примере это экономит 45% на диалоге на 40 реплик ($0.01272 против $0.02316).
  2. Суммируйте старые ходы. Замените ходы старше лимита 100-словным резюме. Вы платите за один вызов суммирования, а затем отправляете гораздо меньше токенов.
  3. Сократите системный промпт. Он оплачивается в каждом запросе. Уменьшение его размера с 300 до 200 токенов экономит 100 x T входных токенов на чат, что составляет 2 000 токенов или $0,0003 за 20 ходов. Мелкая экономия на одном чате, но реальная при миллионе чатов.
  4. Установите правила длины ответа. Строка вроде «Менее 100 слов» снижает количество выходных токенов и не даёт истории расти так быстро.
  5. Не повторяйте запросы вслепую. Неудачные или отклонённые запросы не оплачиваются, но цикл повторных попыток, который отправляет большие промпты после тайм-аута, всё равно может накапливать медленную и бесполезную работу.

Страница о стоимости чат-бота на сайте добавляет к картине хостинг и разработку, поскольку API — лишь одна строка в общей стоимости.

От стоимости диалога к ежемесячному бюджету

Умножьте на объём. Десять тысяч диалогов на 20 ходов в месяц стоят 10 000 x $0,00678 = $67,80. Сто тысяч диалогов на 10 ходов стоят 100 000 x $0,00219 = $219. Добавьте запас прочности 30% на более длинные сообщения, чем вы ожидали.

Пополнение — это любая целая сумма от $20 до $500. Пополнение на $20 позволяет сделать около 9 132 разговоров на 10 реплик или 2 949 разговоров на 20 реплик при указанных размерах. Бонусы суммируются при крупных пополнениях: +5% от $50, +10% от $100 и +15% от $200, поэтому $200 дают $230 кредита. Подписки нет, а кредит не сгорает, поэтому в месяц с низкой активностью вы ничего не платите. Посмотрите страницу с ценами, чтобы узнать актуальные условия.

Этот сайт принимает только криптовалюту: USDT в сети TRC20 или USDC в сети Base. Запланируйте небольшой резерв в кошельке, так как пополнение не происходит мгновенно, как при использовании сохранённого способа оплаты, и вы не хотите, чтобы запуск задержался из-за пустого баланса.

Оценка количества токенов до появления трафика

Для использования всего этого вам нужны подсчёты токенов, а в первый день у вас нет логов. Два грубых правила помогут начать. Английский текст в среднем содержит около четырёх символов на токен, поэтому сообщение на 160 символов — это около 40 токенов. Страница на 300 слов — это около 400 токенов. Другие языки и код обычно требуют больше токенов на символ, поэтому увеличьте оценку на четверть, если ваши пользователи пишут на языках, отличных от английского.

Напишите вручную три примера диалогов: короткий, типичный и длинный. Посчитайте их символы, разделите на четыре и подставьте числа в калькулятор. Затем запустите те же диалоги через API с пробным ключом и сравните вашу оценку с полем usage в каждом ответе. Если реальные числа в пределах 20% от вашей оценки, бюджет надёжен. Если нет, доверяйте реальным числам и корректируйте.

Пример с суммированием памяти

Возьмите чат на 40 ходов, который сохраняет последние 10 ходов и добавляет резюме. Каждые 10 ходов вы отправляете исключённые ходы вместе со старым резюме и просите новое резюме на 100 слов (примерно 130 токенов). Это один дополнительный вызов примерно на 1 900 входных токенов (старое резюме плюс 10 ходов по 160 токенов плюс инструкция) и 130 выходных токенов, что стоит 1 900 x $0,15 / 1M = $0,000285 и 130 x $0,50 / 1M = $0,000065, итого $0,00035. Если сделать это три раза в чате, дополнительные расходы составят $0,00105, а резюме добавит 130 токенов к каждому последующему запросу. Чат всё равно обойдётся примерно в $0,014 против $0,0232 за полную историю, и он сохранит детали из хода 5 в ходе 38.

Попробуйте перед оплатой

Новые пользователи могут получить $0,50 бесплатного пробного баланса одним нажатием на странице API-ключа после входа. Для этого не нужен платёжный метод, лимит — один на человека, срок действия — 7 дней. При размере чата в 20 ходов $0,50 покрывают около 73 полных разговоров, чего достаточно, чтобы протестировать промпты и измерить реальное количество токенов. Ключи пробного режима позволяют выполнять 2 параллельных запроса и 60 запросов в минуту, поэтому проводите тесты в одном потоке. Вопросы и ответы о бесплатном пробном периоде содержат ответы на распространённые вопросы, а получить ключ можно на странице ключей.

Когда будете готовы к разработке, в документации указаны эндпоинты, потоковая передача, вызов инструментов и лимиты, а страница о LLM без цензуры, размещённой у нас объясняет, какая модель стоит за API. Это одна модель с открытыми весами с контекстным окном на 100 000 токенов, только текст, настроенная на ответы без отказов по контенту для законного использования взрослыми.

Вопросы и ответы

Сколько стоит один диалог с чат-ботом?

При системном промпте на 300 токенов, пользовательских сообщениях на 40 токенов и ответах на 120 токенов диалог на 10 ходов стоит около $0,0022, а диалог на 20 ходов — около $0,0068 при цене $0,15 и $0,50 за 1 млн токенов.

Почему стоимость растёт быстрее, чем количество ходов?

Каждый запрос отправляет предыдущие сообщения, поэтому объём ввода увеличивается с каждым ходом. Общий объём ввода растёт примерно пропорционально квадрату количества ходов, если не ограничивать историю.

Взимается ли плата за неудачные запросы?

Нет. Неудачные или отклонённые запросы не тарифицируются, а кредит никогда не истекает.

Как оплатить?

Пополните баланс USDT в сети TRC20 или USDC в сети Base на любую целую сумму от $20 до $500. Бонусы начинаются от $50.

Ваш ключ — всего в одной форме

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.

Получить API-ключЧитать документацию