Сервер под локальный ИИ: сколько VRAM нужно и почему одна видеокарта выгоднее двух

Локальный ИИ в 2026 году перестаёт быть экзотикой: компании хотят держать данные у себя, не платить за подписки и не зависеть от облаков. Но главный камень преткновения — железо. Автор на своём опыте разбирает, как собрать сервер под локальные модели, чтобы не выкинуть деньги на ветер.

Ключевой совет: одна мощная видеокарта часто оказывается эффективнее двух средних — из-за overhead межкарточного общения и ограничений по VRAM. В статье детально сравниваются сценарии для 24 ГБ, 48 ГБ и 96 ГБ памяти, приводятся конкретные конфигурации и рекомендации по CPU, RAM и накопителям.

Важный нюанс: локальная модель не заменит ChatGPT или DeepSeek по всем фронтам, но для внутренних документов, черновиков и кода её хватает с запасом. Подход к выбору универсален и не зависит от текущих цен на видеокарты, которые в 2026-м ощутимо выросли.