ИИ-секретарь за $77: DeepSeek отвечает на 88% запросов, а Opus съедает три четверти бюджета

Автор под ником сделал ИИ-секретаря «Лизу Петровну» — бота в Telegram и MAX, который раздаёт задачи агентам. С 30 мая ему написали 8568 запросов 118 человек. За 30 дней языковые модели для всех агентов обошлись всего в $77 — и это при том, что большая часть трафика идёт через дешёвый DeepSeek.

Как оказалось, 88% ответов даёт DeepSeek — он справляется с рутиной вроде расписания и простых вопросов. А вот Opus, который подключается только к сложным задачам, получает всего 7% запросов, но на него уходит три четверти денег. Автор делится кодом выбора модели и объясняет, почему такая схема оправдана.

Память секретаря работает на pgvector — векторной базе данных. Любопытно, что просьб про календарь меньше 5%: люди чаще спрашивают что-то другое. В конце поста автор честно перечисляет, где секретарь до сих пор ошибается, — это полезно для всех, кто строит подобных агентов.