Инструменты
Как я сжал Docker-образ RAG-сервиса с 8.15 ГБ до 1.35 ГБ и довёл до продакшена
RAG-сервис проверяет фактологические утверждения в бизнес-отчётах против реальных источников — SEC EDGAR, World Bank, FRED, Wikipedia. Это был капстоун-проект курса LLM Zoomcamp, который автор решил довести до состояния «не стыдно показать на собеседовании».
В процессе оптимизации он применил fail-fast подход, структурированные логи, мониторинг через Prometheus и радикально уменьшил размер Docker-образа — с 8.15 ГБ до 1.35 ГБ. Результат — рабочий продакшен-код, а не просто учебный проект.
Источник: habr.com