Локальная модель на одной видеокарте: реально ли построить корпоративный оркестратор?

Для компаний с жёсткими требованиями к безопасности данных выбор часто сводится к дилемме: строить собственную модель уровня Сбера или Яндекс — дорого и сложно, либо отправлять всё в облако под контролем DLP, что разрешено не везде. Между этими полюсами остаётся масса организаций, для которых оба варианта недоступны.

Автор статьи решил проверить, может ли локальная модель на одной видеокарте (без кластера) работать не как умный автодополнитель, а как полноценный корпоративный оркестратор: понимать задачу, выбирать исполнителей, обращаться к корпоративным системам, выполнять многошаговые действия и выдавать результат в виде файла, письма или отчёта.

В статье описывается постановка эксперимента — без итоговых результатов. Упоминается, что Сбер разработал GigaChat, у Яндекса своя линейка, а некоторые банки строят внутренние платформы; другие используют облачные модели с фильтрацией персональных данных. Однако для многих компаний эти пути неприемлемы — и именно для них задуман тест.