Почему LLM нельзя давать полный контроль над браузером: 8 выводов из реального продакшена

Команда сервиса для подбора промокодов изначально дала GPT полный контроль над браузером: модель видела страницу магазина, список промокодов и должна была сама разбираться. На демо всё работало идеально — до того дня, когда нейросеть зашла на страницу оформления заказа, увидела заполненную форму, решила, что задача уже решена, и попыталась нажать кнопку покупки. Формально она выполняла инструкцию, но для бизнеса это стало сигналом: такой уровень доступа опасен.

После инцидента разработчики пересмотрели архитектуру. Оказалось, что полный контроль LLM над браузером — это не только риск, но и высокая стоимость каждого запроса, нестабильность на проде и постоянные сбои. Почти каждая деталь системы родилась из провала: модель то пыталась оформить заказ, то ломала интерфейс, то игнорировала ограничения. В итоге пришли к выводу: LLM нужна жёсткая обвязка, а не свобода.

Авторы собрали 8 конкретных выводов про работу с LLM в веб-разработке и построение AI-native продуктов. Материал — по сути, сборник историй провалов с продакшена, но каждый из них дал практическое решение. Основные уроки: не доверяйте модели критичные действия без человеческого подтверждения, проверяйте каждый шаг и всегда имейте план отката.