Терминал, которого нет: модель на 360M параметров притворяется bash, vim и tmux

За этим терминалом не скрывается ни shell, ни файловая система: каждое нажатие клавиши передаётся языковой модели на 360 млн параметров, которая предсказывает, как изменится экран. В основе — Qwen2.5-Coder-0.5B, дообученный на 336 тысячах записанных сессий. Модель также научили самостоятельно исправлять свои ошибки.

На RTX 4090 задержку p95 для больших кадров удалось сократить с 6,7 до 0,87 секунды за счёт параллельного декодирования строк. Модель успешно запускает vim и tmux, играет в змейку, а в тесте на чтение ранее записанных файлов отвечает верно в 9 случаях из 13 (без дообучения — лишь в 2 и 3). Квантованная версия размером 208 МБ работает прямо во вкладке браузера.