Инструменты
7 500 генераций карточек для маркетплейсов: селлеры мыслят диффами, а не промптами
Сервис генерации карточек для маркетплейсов проанализировал свою базу: 7 500 генераций за восемь месяцев. Главный инсайт — пользователи не пишут идеальные промпты, они работают с диффами: сравнивают результаты и постепенно уточняют. Выявлены и паттерны времени: селлеры чаще всего создают контент в вечерние часы и по выходным.
С инженерной стороны реализация построена на fan-out подзадачах — запрос разбивается на несколько этапов, параллельно обрабатываемых каскадом моделей. При сбое одной модели срабатывает фолбэк на запасную. Для отслеживания прогресса в реальном времени используется Redis pub/sub, что позволяет показывать пользователю процесс генерации пошагово.
Источник: habr.com