Андрей Карпаты | Ч.1 Введение в Нейросети | Обратное Распространение Ошибки | Создание mocrograd

Это максимально подробное и пошаговое объяснение обратного распространения ошибки и обучения нейросетей от самого Андрея Карпаты. Для понимания достаточно базовых знаний Python и даже смутных воспоминаний о математическом анализе из школьной программы. micrograd на GitHub: github.com/karpathy/micrograd Jupyter из видео: github.com/karpathy/nn-zero-to-hero Ссылка на источник с оригиналом: https://www.youtube.com/watch?v=VMj-3S1tku0&list=TLPQMjEwODIwMja_m_wTK07mVw&index=1 Я делаю эти переводы в первую очередь потому, что сам хочу слушать на русском людей, которые прямо сейчас создают ИИ-индустрию и определяют её будущее. А раз перевожу для себя — почему бы не выкладывать и для вас. Без пересказов и чужих интерпретаций: просто первоисточник на русском. Если вам такое интересно — подписывайтесь на канал. #КосИбрагимов #нейросети #ии #андрейкарпаты #andrejkarpathy 00:00:00 — Введение 00:00:25 — Обзор micrograd 00:08:08 — Производная простой функции с одной переменной 00:14:12 — Производная функции с несколькими переменными 00:19:09 — Создаём основной объект Value в micrograd и его визуализацию 00:32:10 — Ручное обратное распространение ошибки №1: простое выражение 00:51:10 — Разбор одного шага оптимизации 00:52:52 — Ручное обратное распространение ошибки №2: нейрон 01:09:02 — Реализуем функцию backward для каждой операции 01:17:32 — Реализуем функцию backward для всего графа вычислений 01:22:28 — Исправляем ошибку обратного распространения, возникающую при многократном использовании одного узла 01:27:05 — Разбираем tanh на отдельные операции и практикуемся с дополнительными операциями 01:39:31 — Делаем то же самое в PyTorch: сравнение 01:43:55 — Создаём библиотеку нейросети в micrograd: многослойный перцептрон 01:51:04 — Создаём небольшой набор данных и пишем функцию потерь 01:57:56 — Собираем все параметры нейросети 02:01:12 — Вручную выполняем оптимизацию методом градиентного спуска и обучаем сеть 02:14:03 — Подводим итоги: что мы изучили и как перейти к современным нейросетям 02:16:46 — Разбираем полный исходный код micrograd на GitHub 02:21:10 — Переходим к настоящему PyTorch: находим реализацию обратного прохода для tanh 02:24:39 — Заключение 02:25:20 — Неудачные дубли Ссылка на МОЙ канал - https://youtube.com/@kos.ibragimov?si=PKDQFQx57oMu0Gv7 Ссылка на ЭТО видео - https://youtu.be/uS-SSM-rI0I Подписывайтесь на канал и ставьте лайк — так YouTube поймёт, что такие видео стоит показывать чаще. А я пойму, что стоит делать их дальше.