Разработчик и исследователь Sebastian Raschka представил масштабный видеокурс, посвященный созданию так называемых reasoning-моделей (моделей рассуждения). Курс включает восемь видеолекций общей продолжительностью более 11 часов и ориентирован на тех, кто хочет понять внутреннее устройство современных LLM на практике.
О чем курс
Автор предлагает подход «с нуля», используя Python и PyTorch. Обучение базируется на доработке уже предобученной модели Qwen3 0.6B. Основное внимание уделяется ключевым аспектам современных нейросетей:
- Методам оценки производительности моделей.
- Масштабированию во время вывода (inference-time scaling).
- Применению обучения с подкреплением (reinforcement learning).
- Техникам дистилляции знаний.
Raschka отмечает, что reasoning-модели являются логическим развитием обычных LLM. Они используют дополнительные этапы посттренировки, что позволяет им эффективнее справляться со сложными задачами, такими как программирование или математические вычисления. В курсе также объясняется роль таких моделей в составе более широких «агентных систем» (agent harnesses), где нейросеть выступает в роли «двигателя», управляемого специализированным программным окружением.
Для кого это обучение
Курс является самостоятельным продуктом, однако автор рекомендует обладать базовыми навыками работы с Python и PyTorch. Хотя для начальных этапов достаточно возможностей обычного процессора, для полноценного обучения нейросети потребуется GPU. Материалы курса дополняют одноименную книгу автора, которую он советует использовать для более глубокого изучения теории и выполнения упражнений.
Для тех, кто предпочитает более краткий формат, доступен 90-минутный обзорный курс на платформе LinkedIn Learning. Он охватывает концептуальные основы без глубокого погружения в программную реализацию. Сам же видеокурс наглядно демонстрирует процесс настройки окружения, включая использование менеджера пакетов uv, а также оптимизацию генерации текста с помощью KV-кэширования и компиляции моделей.
Источник: magazine.sebastianraschka.com