Энтузиаст представил проект WorldTUI — языковую модель с 360 млн параметров, обученную имитировать работу терминала. В отличие от стандартных эмуляторов, здесь нет реальной файловой системы или командной оболочки. Вместо этого модель предсказывает изменения экрана на основе нажатий клавиш пользователя. Система способна выполнять базовые команды, работать в vim, tmux и даже запускать игру «Змейка».
Как это работает
В основе проекта лежит модель Qwen2.5-Coder-0.5B, дообученная на 336 тысячах записанных сессий из Docker-контейнеров. Вместо генерации потока текста нейросеть воспринимает терминал как сетку символов. При вводе команды она вычисляет, какие именно ячейки экрана нужно обновить и куда переместить курсор. Для оптимизации процесса автор внедрил специальные токены, позволяющие эффективно копировать строки при прокрутке, что значительно сокращает объем вычислений.
- Модель учитывает не только ввод, но и время: при отсутствии действий она использует токен ожидания.
- Система поддерживает динамическое изменение размера окна терминала.
- Для исправления ошибок в ходе обучения применялся метод, похожий на DAgger: модель учится корректировать собственные неверные предсказания, опираясь на предыдущие корректные состояния экрана.
Ограничения и возможности
Разработчик отмечает, что модель не застрахована от галлюцинаций, поэтому она не может «придумать» данные, которых не было в истории сессии. Тем не менее, обучение на собственных ошибках позволило значительно повысить точность ответов. На тренировку модели ушло около 75 часов работы видеокарты RTX 4090.
Демонстрационную версию можно протестировать прямо в браузере (рекомендуются Chrome или Edge). Автор предупреждает, что из-за особенностей работы WebGPU и нагрузки на ресурсы, на мобильных устройствах эмулятор может работать медленно. Это интересный эксперимент, демонстрирующий потенциал моделей, которые учатся взаимодействовать с интерфейсами, а не просто генерировать текст.
Источник: simedw.com