Закрытый контур и корпоративная LLM: почему VS Code-расширение прошло, а отдельная ИИ-программа — нет

Автор, ранее написавший GitBor — git-клиент для просмотра того, что реально наворотил ИИ в коде, — теперь делится опытом создания самого агента. Оба инструмента делались параллельно: один пишет код, второй показывает, что из этого вышло.

Корпоративная модель в компании хорошая, но её контекст ограничен примерно 100 тысячами токенов, а популярные агенты сжигают его без оглядки. Пришлось перерабатывать агента под закрытый контур: настроить экономию контекста, сделать несколько задач во вкладках и голосовой ввод без доступа в сеть.

Главная интрига — почему расширение для VS Code одобрили там, где отдельную программу с ИИ не пропустили. Этот момент автор подробно разбирает в материале.