Считаем экономику: свой сервер или API — что дешевле на самом деле?

Спор «что дешевле — поднять свою открытую модель или платить за API» обычно ведут в ценах за токен, но это неверные единицы. Self-hosting — это постоянные затраты, а API — переменные, поэтому ответ зависит от того, насколько плотно вы загружаете своё железо. К тому же никто не покупает токены как цель — покупают решённые задачи, а разные модели тратят на одну задачу сильно разное число токенов.

За последний год открытые модели вплотную приблизились к топу лидербордов. На SWE-bench Verified DeepSeek V4 Pro берёт 80,6 %, Kimi K3 — 93,4 %, почти не уступая лучшим закрытым. Это значит, что во многих сегментах выбор между своим железом и API перестал быть вопросом качества — он стал чисто экономическим и операционным.

Автор предлагает считать не цену за токен, а полную стоимость решения задачи с учётом загрузки инфраструктуры и эффективности модели. Такой подход позволяет принять взвешенное решение, особенно когда открытые модели уже не уступают закрытым по качеству.