Волна ИИПодписаться
← Назад
Инструменты

Пять типов токенов в кодинг-агентах: куда уходят деньги и как экономить

14.09.2026 · habr.com ↗

После недели использования кодинг-агента счёт за токены может удивлять: написали немного, а заплатили много. Разбор по полям usage показывает, что типов токенов пять, а не два (ввод/вывод). Кроме обычного ввода, есть запись и чтение из префиксного кэша, а также вывод и reasoning — последний тарифицируется по цене вывода, хотя в ответе от него часто одни рассуждения. В одном примере из 234 токенов ответа 230 пришлось на reasoning, а полезного текста — одно слово.

Ключевая проблема — префиксный кэш: если в начале системного промпта стоит таймстемп, кэш обнуляется на каждом запросе. Автор собрал семь правил, которые реально снизили расход, и привёл десятистрочный скрипт для подсчёта доли чтения из кэша и доли reasoning в ответе по логам. Практическое руководство для тех, кто хочет понять, куда уходят токены, и не платить лишнего.

Источник: habr.com
← Все новости AI Wave