Известный эксперт в области машинного обучения Sebastian Raschka представил новый образовательный проект — серию из восьми видеолекций, посвященных созданию моделей рассуждения (reasoning models). Общая продолжительность курса составляет более 11 часов практического программирования, в ходе которого автор демонстрирует, как превратить обычную языковую модель в систему, способную решать сложные логические задачи.
В основе курса лежит подход «с нуля» с использованием Python и PyTorch. В качестве базовой модели для экспериментов выбрана предобученная Qwen3 0.6B. Такой выбор позволяет слушателям сосредоточиться на ключевых аспектах: оценке качества ответов, масштабировании во время вывода (inference-time scaling), методах обучения с подкреплением и дистилляции знаний.
Что входит в программу обучения
Курс является логическим продолжением предыдущих работ автора, хотя и может изучаться как самостоятельный материал. Основные темы включают:
- Развертывание окружения и настройка оборудования для обучения.
- Реализация генерации текста с оптимизациями, такими как KV-кэширование и компиляция моделей.
- Внедрение методов обучения с подкреплением для улучшения логических способностей нейросетей.
- Применение техник масштабирования вычислений для повышения качества рассуждений.
Raschka подчеркивает, что такие модели сегодня играют роль «двигателя» для ИИ-агентов, обеспечивая их способность выполнять сложные цепочки действий, например, в программировании или планировании. Хотя для начальных этапов достаточно возможностей обычного процессора, для полноценного обучения автор рекомендует использовать графические ускорители.
Материалы курса дополняют одноименную книгу автора «Build a Reasoning Model (From Scratch)». Для тех, кто ищет более сжатый формат, доступен 90-минутный обзорный курс на платформе LinkedIn Learning, который охватывает теоретические основы без углубления в программную реализацию. Сам видеокурс доступен для всех желающих, позволяя на практике изучить внутреннее устройство современных LLM.
Источник: magazine.sebastianraschka.com