Разработчик представил проект WorldTUI — языковую модель с 360 млн параметров, обученную имитировать работу терминала. В отличие от стандартных LLM, которые генерируют текстовый поток, эта нейросеть предсказывает изменения в сетке символов экрана. За системой не стоят реальная файловая система или shell: каждое нажатие клавиши является входным сигналом, на основе которого модель вычисляет состояние дисплея.
Как это работает
В основе проекта лежит модель Qwen2.5-Coder-0.5B, дообученная на 336 тысячах сессий, записанных внутри Docker-контейнеров. Разработчик отказался от прямой генерации текста в пользу управления состоянием сетки. Система понимает команды, умеет работать с vim, tmux и даже запускать игру «Змейка».
- Компактность: Модель использует ограниченный словарь из 333 токенов, что позволяет ей работать в браузере.
- Оптимизация: Вместо полной перерисовки экрана при прокрутке модель использует специальные команды копирования строк, что значительно сокращает количество токенов.
- Самокоррекция: Одной из ключевых особенностей стало обучение модели исправлять собственные ошибки. Если нейросеть совершает опечатку, она учится корректировать состояние экрана, опираясь на предыдущие данные сессии.
Автор отмечает, что проект вдохновлен идеей создания «обучаемых» приложений, где вместо программного кода логика работы определяется предсказанием следующего состояния системы. Несмотря на впечатляющие возможности, модель иногда допускает галлюцинации. Разработчик призывает протестировать демо-версию в современных браузерах, таких как Chrome или Edge, подчеркивая, что на мобильных устройствах работа может быть медленной из-за требований к WebGPU.
Источник: simedw.com