Градиентный спуск, как обучаются нейросети | Глава 2, Глубинное обучение

Нравятся эти видео? Поделитесь одним или двумя! Поддержите будущие проекты: https://www.patreon.com/3blue1brown Особая благодарность этим спонсорам: http://3b1b.co/nn2-thanks Интерактивная версия серии: https://www.3blue1brown.com/topics/neural-networks Видео создано при участии Amplify Partners. Если вы занимаетесь ML-стартапом на ранней стадии, напишите Amplify Partners: 3blue1brown@amplifypartners.com. Хотите углубиться в тему? Рекомендую книгу Майкла Нильсена: http://neuralnetworksanddeeplearning.com/ В ней разобран код примеров из этих видео. Исходники здесь: https://github.com/mnielsen/neural-networks-and-deep-learning База данных MNIST: http://yann.lecun.com/exdb/mnist/ Также загляните в блог Криса Олаха: http://colah.github.io/ Его пост о нейросетях и топологии особенно хорош, хотя, если честно, весь материал там замечательный. Если это вас заинтересовало, публикации на Distill вам точно понравятся: https://distill.pub/ Для тех, кто хочет больше видео, Welch Labs также предлагает отличные серии по машинному обучению: https://www.youtube.com/watch?v=i8D90DkCLhI https://www.youtube.com/watch?v=bxe2T-V8XRs «Но я уже с жадностью проглотил работы Нильсена, Олы и Уэлча», — слышу я. Ну-ну, впечатляет. В таком случае, могу порекомендовать вам продолжить с книгой «Deep Learning» Гудфеллоу, Бенжио и Курвилля. Спасибо Лише Ли (@lishali88) за её вклад в финальной части и за то, что позволила мне столько расспрашивать её о материале. Вот статьи, на которые она ссылалась в конце: https://arxiv.org/abs/1611.03530 https://arxiv.org/abs/1706.05394 https://arxiv.org/abs/1412.0233 Музыка Vincent Rubinetti: https://vincerubinetti.bandcamp.com/album/the-music-of-3blue1brown Спасибо этим зрителям за вклад в переводы: Иврит: Omer Tuchfeld Итальянский: @teobucci Русский: Никита Булагару Звуковая дорожка на русском языке: Влад Бурмистров. ------------------- Таймлайн видео: 0:00 – Введение 0:30 – Обзор предыдущего материала 1:49 – Работа с обучающими данными 3:01 – Функции ошибки 6:55 – Градиентный спуск 11:18 – Вектор градиента 12:19 – Итог по градиентному спуску 13:01 – Анализ сети 16:37 – Дополнительные материалы 17:38 – Интервью с Лишей Ли 19:58 – Завершающие мысли ------------------ 3blue1brown — это канал об анимированной математике во всех смыслах слова «анимация». Ну а дальше вы знаете, как работает YouTube: хотите оставаться в курсе новых видео — подписывайтесь и жмите на колокольчик (если вам это нужно). Если вы здесь впервые и хотите посмотреть больше, начните с этого плейлиста: http://3b1b.co/recommended Другие платформы: Сайт: https://www.3blue1brown.com Twitter: https://twitter.com/3Blue1Brown Patreon: https://patreon.com/3blue1brown Facebook: https://www.facebook.com/3blue1brown Reddit: https://www.reddit.com/r/3Blue1Brown