Разработчик и исследователь Sebastian Raschka представил новый образовательный проект — углубленный видеокурс по созданию так называемых reasoning-моделей (моделей рассуждения). Материал включает восемь видеолекций общей продолжительностью более 11 часов и ориентирован на практическое освоение современных технологий в области больших языковых моделей.
Что внутри курса
Курс выступает логическим продолжением предыдущих работ автора по созданию LLM с нуля. В этот раз фокус смещен на механизмы, которые позволяют моделям решать сложные задачи, требующие последовательного логического вывода. Основные темы включают:
- Оценку качества генерации и эффективности моделей.
- Методы масштабирования во время инференса (inference-time scaling).
- Применение обучения с подкреплением (reinforcement learning).
- Техники дистилляции знаний.
В качестве базовой архитектуры используется предобученная модель Qwen3 (0.6B). Автор подчеркивает, что выбор готового «движка» позволяет сосредоточиться на внедрении ключевых алгоритмов рассуждения, не отвлекаясь на процесс обучения с нуля. Весь код пишется на Python и PyTorch.
Практические аспекты
Для комфортного прохождения курса рекомендуется знание Python и базовое понимание PyTorch. Хотя для начальных этапов достаточно возможностей обычного процессора, для полноценного обучения и экспериментов автор советует использовать графические ускорители. В первом видео серии подробно разбирается настройка окружения, включая установку зависимостей с помощью uv и выбор аппаратного обеспечения.
Raschka отмечает, что reasoning-модели сегодня являются «двигателем» для современных ИИ-агентов, превращая стандартный чат-бот в инструмент для решения комплексных задач — от написания сложного кода до автоматизации личных поручений. Видеокурс дополняет одноименную книгу автора, которая содержит более подробные теоретические пояснения и дополнительные упражнения для закрепления материала.
Для тех, кому нужен быстрый концептуальный обзор без глубокого погружения в программирование, автор также подготовил 90-минутный ознакомительный курс на платформе LinkedIn Learning.
Источник: magazine.sebastianraschka.com