Почему счёт за LLM отличается от прикидки: разбор реальной стоимости запроса

Обычно стоимость запроса к LLM прикидывают по прайсу: умножают цену за миллион токенов на ожидаемый объём и забывают. Потом приходит счёт, и он отличается от расчётов в разы — причём иногда в меньшую сторону, если запрос случайно попал в кэш.

Автор разобрал, из чего на самом деле складывается цена одного вызова. Модель в ответе возвращает числа, которые нужно правильно читать: например, ответ в три строки может стоить как страница текста, если в нём много reasoning-токенов. Кэш промптов экономит не всегда — иногда он только добавляет расходов.

Особое внимание — длинному контексту. Четыре лишних тысячи токенов во входе могут удвоить цену запроса: входные токены тарифицируются иначе, а кэш для них работает по своим правилам. Понимание этих механизмов помогает точнее прогнозировать бюджет на интеграции с LLM.