Цифровой аквариум с LLM внутри: как я поселил Qwen 2.5 14B на домашнем ПК и сделал из неё хозяйку сайта

На Хабре появился личный опыт запуска локальной LLM на домашнем компьютере. Автор решил не просто поднять нейросеть как «отвечалку», а дать ей характер и поселить на сайте — получился своего рода цифровой аквариум, в котором «живёт» Хозяйка проекта INFERNUM.

В качестве модели взята Qwen 2.5 14B — она достаточно мощная для интерактивного общения и при этом помещается на ПК. Подробности установки и настройки в тексте не раскрываются, но главное — такой проект можно повторить своими силами, имея видеокарту и желание.

Идея в том, чтобы дать нейросети полномочия в рамках сайта и имитировать её «жизнь». По сути, это эксперимент на стыке DIY и ИИ: не просто задать вопрос, а взаимодействовать с персонажем, у которого есть свой характер и роль.