66 контейнеров под столом: backend-разработчик два года строил домашнюю AI-платформу

Один backend-разработчик в августе 2024 года написал простого Telegram-бота на одной модели. Спустя два года это AI-платформа с веб-интерфейсом, шестью каналами доставки (Telegram, VK, MAX, Discord, веб, email), биллингом, голосовым агентом и RAG по документам. Поддерживает всё 66 контейнеров на двух домашних серверах с BGP-маршрутизацией и собственной GPU-нодой.

Автор подчёркивает, что до недавнего времени вся инфраструктура потребляла меньше энергии, чем игровая приставка, хотя теперь с добавлением RTX 3090 ситуация изменилась. Статья описывает не только техническое устройство (CI, хелпдеск, локальные модели), но и мотивацию: хотел полный self-host без внешних зависимостей.

Материал на Хабре — не финальный отчёт, а приглашение обсудить архитектуру и типичные ошибки. Разработчик честно признаёт, что почти наверняка делает что-то неоптимально, и ждёт советов от сообщества.