Гайд по NeMo Guardrails: как выстроить безопасность LLM-ассистента на каждом этапе

NeMo Guardrails от Nvidia — фреймворк, который позволяет навесить слои безопасности на LLM-приложение. В свежем гайде разобрали полный pipeline для финансового помощника: от детекции PII (номера карт, ID) до блокировки политических и инвестиционных вопросов. Используются как детерминированные правила (регулярки), так и LLM-самопроверки на jailbreaks и небезопасные ответы.

Конфигурация пишется на YAML и Colang: задаётся системный промпт, rails на ввод и вывод, ретривер-фильтр, маскировка аккаунтов. Встроен трекинг срабатывания каждого rail и замер токенов — чтобы оценить стоимость защиты. Также добавлен coverage-отчёт для red-team тестирования. Инструмент уже доступен и может быть адаптирован под любой сценарий.

Практический пример показывает, как комбинировать PII redaction, self-check, фильтрацию чанков ретривера и ролевые ограничения. Это не абстрактная теория — весь код опубликован, можно повторять.