При каждом обращении к сервису языковых моделей (LLM), таких как OpenAI или другие аналогичные решения, стоимость рассчитывается за каждый отдельный запрос.
От чего зависит стоимость запроса?
Стоимость одного запроса зависит от трех ключевых факторов:
Длины контекста — то есть вся информация, передаваемая нейросети: инструкции, старые сообщения, дополнительные данные и т.д.
Длины ответа от нейросети — чем длиннее результат, тем дороже запрос.
Выбранной модели — чем более сложная и умная модель, тем выше цена за её использование.
Как измеряются расходы?
Длина контекста и ответа измеряется в токенах. Токен — это объём текста, который может обработать модель.
В среднем 1 слово на русском языке занимает 1-2 токена, так что 1 токен обычно соответствует около 3-4 символа текста.
Примеры:
Пример токенизации текста на русском языке.
Цены за использование нейросетей
Для оплаты запросов используется внутренняя валюта botcoin.
