Инструменты
Собираем домашний ИИ-сервер за 400 тыс. рублей: гайд для энтузиастов
Готовые ИИ-серверы стоят около 1,3 млн рублей — не каждый готов выложить столько за локальный запуск моделей. Автор предлагает собрать свой вариант, уложившись в 400 тыс. рублей, и обещает не только экономию, но и удовольствие от процесса.
В материале перечислены необходимые компоненты: процессор, видеокарта (вероятно, с большим объёмом видеопамяти), материнская плата, блок питания и система охлаждения. Даются рекомендации по выбору железа, чтобы получить максимум производительности для инференса LLM за разумные деньги.
Этот гайд пригодится энтузиастам и разработчикам, которые хотят заполучить полностью локальный ИИ без ежемесячных платежей за облачные API, но не готовы тратить миллион.
Источник: habr.com