Добавил LLM в чат друзей: бесплатный Т-800 на OpenRouter и локальная модель

Пользователь под ником «автор» добавил в свой чат с друзьями ИИ-персонажа — Т-800 из «Терминатора». Для работы бота были использованы бесплатные модели с OpenRouter, а позже — локальная LLM, запущенная на собственном оборудовании. Общение с друзьями стало «открытием портала в мультивселенную».

Задача состояла в том, чтобы дать модели характер и способность свободно общаться без затрат на API — ключевой упор на OpenRouter, который предоставляет доступ к бесплатным открытым моделям. Эксперимент подтвердил, что можно собрать полноценного разговорного агента с нулевым бюджетом.

Впоследствии автор также протестировал локальную модель — это позволило убрать зависимость от внешних сервисов. История носит развлекательный характер, но показывает, как быстро можно развернуть LLM-бота для небольшой группы людей без финансовых вложений.