А вы знаете, сколько стоит один запрос API Chat GPT? Что скрывается за этим непонятным словом Tokens (токены)? И как сделать запрос дешевле?
Сегодня мы разберём тему формирования цены на запросы API Chat GPT, а так же узнаем, как посчитать стоимость вашего запроса.
Начнём с цены и откуда она берётся
Все актуальные цены мы можем узнать на официальном сайте OpenAI (у меня без VPN не открывается).
Давайте разберём на примере мой любимый GPT-3.5 Turbo.
Вот его цена:
Model
Input
Output
4K context
$0.0015 / 1K tokens
$0.002 / 1K tokens
16K context
$0.003 / 1K tokens
$0.004 / 1K tokens
А теперь по порядку.Что за разные Модели (Model)?Названия «4K context» и «16K context» обозначают, сколько символов может обработать на входе нейросеть.«4K context» — может обработать 4 тысячи токенов«16K context» — может обработать 16 тысяч токенов* что такое токены я расскажу ниже4 тысяч или 16 тысяч это довольно большая разница!А цена увеличивается всего в 2 раза.
Input — цена за входящий запросOutput — цена за исходящий ответЧто они обозначают, мы поймём позже
И вот они, цены:«$0.003 / 1K tokens» Что такое $0.003 мы понимаем, но что такое 1K tokens, может быть совсем непонятным!Я изначально думал, что один Токен, это один запрос. (Как же я был наивен!)
Что такое токены?
Яндексим (ищем в интернете)
Токен — это цифровой актив (сертификат), который представляет определенную стоимость, функционирует на основе блокчейна или другой децентрализованной сети и гарантирует обязательства компании перед его владельцем.
Сложно и непонятно.
Спрашиваем Chat GPT
В контексте нейросетей, термин «tokens» (токены) обычно относится к минимальным единицам, на которые разбивается входной текст или последовательность символов перед подачей на обработку модели. Токеном может быть одна буква, одно слово или даже целая фраза, в зависимости от типа и задачи модели.
В итоге мы понимаем, что Токен, это какая-то плавающая единица измерения для нейросети.
Но как так, я ведь плачу за каждую эту единицу свои деньги! Почему я не могу быть точно уверенным в объёме.
OpenAI продумали этот момент и предоставили нам инструмент для вычисления количества токенов в нашем запросе. (тоже открывается только с VPN)
Сюда мы можем вставить наш текст, который мы хотим отправлять в запрос нейросети и получить число затрачиваемых токенов на наш запрос.
🛑 Заметил, что число токенов на русском языке не соответствует реальному запросу. На английском языке расчёт точный.
Но мы же не будем каждый раз переходить на сайт, вставлять наш запрос и подсчитывать, сколько же он стоит!
И не надо!)Точный расчёт затраченных токенов нам придёт в ответе от Chat GPT.
🛑 Сейчас будет много непонятного для обычного пользователя, и чтобы не нагружать вас терминами, я скрою блоки с кодом, формулами и вычислениями.
Итоги
Я подробно описал, как рассчитать стоимость одного запроса API Chat GPT в скрытом блоке РАССЧИТАЕМ СТОИМОСТЬ ЗАПРОСА.
🛑 Все суммы ниже относятся к gpt-3.5-turbo-16k, если вы хотите использовать gpt-3.5-turbo, то делите все итоговые суммы на 2.
Если обобщить весь блок и сказать очень примерную цифру.То за 3000 русских символов в запросе мы заплатим 81 копейку с курсом в 91 рубль за доллар.И очень грубо говоря: 3000 / 81 = 0,027 копеек за одни символ.Для точных расчётов ознакомьтесь с блоком расчёта цены!
А за один хороший запрос, примерно в 5000 символов, стоимость будет в районе1 рубля.Поэтому, любой сервис написанный на Chat GPT, будет стоить около 1 — 2 рублей за запрос.
По итогу, стоимость Chat GPT не такая уж и маленькая, особенно, когда мы хотим добиться от неё вразумительных для нас результатов.
Большая это цена или маленькая, решать вам.
Для какого-то бизнеса подобные затраты будут копейками, а в каких-то проектах, это поставит крест на идее внедрить себе Chat GPT.
Если вам было интересно, буду рад вашему отклику и фидбеку👋
Я и дальше продолжу изучать этот сложный мир нейросетей и делиться с вами своими открытиями!
Автор: Жданов Роман
Использовать Chat GPT-4 в РФ можно через telegram бота. Доступ через api и дешевле, чем оф версия с сайта.
