Инструменты
Дешёвый фильтр перед Claude спас 50% бюджета: как модель Jev отсеивает мусор
Пользователь настроил пайплайн: всё, что попадает в Telegram, Claude Sonnet ежедневно разбирает для блога. Но почти половина сохранёнок оказалась лишней — на каждую тратился полный разбор. Чтобы не жечь токены впустую, он добавил перед Sonnet дешёвую модель Jev, которая оценивает вероятность полезности материала.
Эксперимент показал, что формулировка вопроса критически важна: при небрежной постановке AUC составил 0,46, а после корректировки — 0,95. В код встроены предохранители, а журнал за две недели подтвердил эффективность подхода. Решение позволяет экономить ресурсы без потери качества финальных разборов.
Источник: habr.com