PII-фильтр перед облачными LLM: как я отказался от self-hosted и не пожалел

За два месяца я протестировал RTX PRO 6000 96GB, RTX4090 48GB и даже H200, оценивая варианты для self-hosted LLM. Купил RTX5070ti и V100 32GB, прогнал много бенчмарков. Но увидел резкий рост цен на железо и череду утечек персональных данных у провайдеров LLM — понял, чем это грозит при взломе или сливе.

Начал искать актуальные варианты защиты. Нашёл классный open-source PII-фильтр, настроил его, переключил в enforce и считал вопрос закрытым. Но ошибался — ошибка позволила сделать продакшен-решение и уйти от идеи полного self-host к офлайн-бэкапу.