Курс "Специалист по искусственному интеллекту". Урок 8. LinearRegression в Scikit-Learn, метрика R2
Восьмой урок курса «Специалист по искусственному интеллекту». Переходим к использованию профессиональной библиотеки Scikit-Learn. Разбираем аналитическое ядро модели LinearRegression (нормальное уравнение), итерационную альтернативу SGDRegressor, важность масштабирования признаков и оцениваем модель с помощью коэффициента детерминации R² (R-squared). В этой лекции мы подробно обсудим: – Преимущества библиотеки Scikit-Learn: открытый исходный код, развитое комьюнити и единый API (методы fit и predict) для любых моделей. – Пайплайн регрессии: разделение признаков (X) и целевой переменной (y). – Обучение модели LinearRegression в один оператор и прогнозирование цены для новой квартиры. – Почему LinearRegression не использует градиентный спуск? Разбор аналитического метода — нормального уравнения (Normal Equation). – Вычислительную сложность матричных операций и ограничения нормального уравнения на сверхбольших данных (P больше 10,000 признаков). – Итерационную альтернативу: SGDRegressor (стохастический градиентный спуск). – Почему SGDRegressor критически чувствителен к масштабу признаков и как StandardScaler ускоряет сходимость. – Обзор ключевых гиперпараметров SGDRegressor (функции потерь loss/huber, регуляризация penalty L1/L2, шаг обучения learning_rate, критерии остановки). – Почему абсолютные метрики MAE и MSE не подходят для сравнения точности моделей на разных датасетах. – Коэффициент детерминации R² (R-squared) как относительную меру качества прогнозирования. – Понятие базового уровня (baseline) — простейшей модели на основе среднего значения выборки. – Математическую формулу R² и интерпретацию ее значений (от отрицательных величин до идеальной единицы). Практическая работа выполняется в интерактивной облачной среде Google Colab. Сайт автора курса: https://leolukin.ru Таймкоды / таймметки 00:00 — Введение: переход от самописного кода к библиотеке Scikit-Learn 01:21 — Преимущества Scikit-Learn: иерархия и единый API (fit и predict) 02:31 — Документация Scikit-Learn и структура разделов библиотеки 03:40 — Пайплайн регрессии: разделение признаков (X) и целевой переменной (y) 04:35 — Импорт и инициализация модели LinearRegression() 05:33 — Обучение модели в один оператор: метод fit() 07:21 — Создание нового объекта и прогнозирование цены через predict() 09:37 — Расчет базовых метрик качества регрессии (MAE и MSE) из пакета sklearn.metrics 11:16 — Почему LinearRegression не использует градиентный спуск под капотом 12:12 — Аналитическое решение: Нормальное уравнение (Normal Equation) и его формула 13:32 — Почему у стандартной линейной регрессии в sklearn отсутствуют гиперпараметры 14:34 — Когда аналитический метод неэффективен: проблема вычислительной сложности 15:00 — Итерационная альтернатива: оптимизатор SGDRegressor (стохастический градиентный спуск) 15:58 — Важность предварительного масштабирования признаков (StandardScaler) для градиентного спуска 16:40 — Разбор ключевых гиперпараметров SGDRegressor (loss, penalty, learning_rate, eta0, max_iter, tol) 17:40 — Сравнение применимости: когда выбирать LinearRegression, а когда SGDRegressor 17:50 — Почему абсолютные метрики MAE и MSE неудобны для кросс-проектной оценки качества 18:50 — Введение в Коэффициент детерминации (R2 / R-squared) 19:30 — Понятие «базовой модели» (baseline): прогнозирование по среднему значению и физический смысл доли необъясненной дисперсии 21:28 — Интерпретация результатов R2 22:42 — Домашнее практическое задание: переход к сравнению моделей и настройке гиперпараметров
Восьмой урок курса «Специалист по искусственному интеллекту». Переходим к использованию профессиональной библиотеки Scikit-Learn. Разбираем аналитическое ядро модели LinearRegression (нормальное уравнение), итерационную альтернативу SGDRegressor, важность масштабирования признаков и оцениваем модель с помощью коэффициента детерминации R² (R-squared). В этой лекции мы подробно обсудим: – Преимущества библиотеки Scikit-Learn: открытый исходный код, развитое комьюнити и единый API (методы fit и predict) для любых моделей. – Пайплайн регрессии: разделение признаков (X) и целевой переменной (y). – Обучение модели LinearRegression в один оператор и прогнозирование цены для новой квартиры. – Почему LinearRegression не использует градиентный спуск? Разбор аналитического метода — нормального уравнения (Normal Equation). – Вычислительную сложность матричных операций и ограничения нормального уравнения на сверхбольших данных (P больше 10,000 признаков). – Итерационную альтернативу: SGDRegressor (стохастический градиентный спуск). – Почему SGDRegressor критически чувствителен к масштабу признаков и как StandardScaler ускоряет сходимость. – Обзор ключевых гиперпараметров SGDRegressor (функции потерь loss/huber, регуляризация penalty L1/L2, шаг обучения learning_rate, критерии остановки). – Почему абсолютные метрики MAE и MSE не подходят для сравнения точности моделей на разных датасетах. – Коэффициент детерминации R² (R-squared) как относительную меру качества прогнозирования. – Понятие базового уровня (baseline) — простейшей модели на основе среднего значения выборки. – Математическую формулу R² и интерпретацию ее значений (от отрицательных величин до идеальной единицы). Практическая работа выполняется в интерактивной облачной среде Google Colab. Сайт автора курса: https://leolukin.ru Таймкоды / таймметки 00:00 — Введение: переход от самописного кода к библиотеке Scikit-Learn 01:21 — Преимущества Scikit-Learn: иерархия и единый API (fit и predict) 02:31 — Документация Scikit-Learn и структура разделов библиотеки 03:40 — Пайплайн регрессии: разделение признаков (X) и целевой переменной (y) 04:35 — Импорт и инициализация модели LinearRegression() 05:33 — Обучение модели в один оператор: метод fit() 07:21 — Создание нового объекта и прогнозирование цены через predict() 09:37 — Расчет базовых метрик качества регрессии (MAE и MSE) из пакета sklearn.metrics 11:16 — Почему LinearRegression не использует градиентный спуск под капотом 12:12 — Аналитическое решение: Нормальное уравнение (Normal Equation) и его формула 13:32 — Почему у стандартной линейной регрессии в sklearn отсутствуют гиперпараметры 14:34 — Когда аналитический метод неэффективен: проблема вычислительной сложности 15:00 — Итерационная альтернатива: оптимизатор SGDRegressor (стохастический градиентный спуск) 15:58 — Важность предварительного масштабирования признаков (StandardScaler) для градиентного спуска 16:40 — Разбор ключевых гиперпараметров SGDRegressor (loss, penalty, learning_rate, eta0, max_iter, tol) 17:40 — Сравнение применимости: когда выбирать LinearRegression, а когда SGDRegressor 17:50 — Почему абсолютные метрики MAE и MSE неудобны для кросс-проектной оценки качества 18:50 — Введение в Коэффициент детерминации (R2 / R-squared) 19:30 — Понятие «базовой модели» (baseline): прогнозирование по среднему значению и физический смысл доли необъясненной дисперсии 21:28 — Интерпретация результатов R2 22:42 — Домашнее практическое задание: переход к сравнению моделей и настройке гиперпараметров