• ClipSaver
  • dtub.ru
ClipSaver
Русские видео
  • Смешные видео
  • Приколы
  • Обзоры
  • Новости
  • Тесты
  • Спорт
  • Любовь
  • Музыка
  • Разное
Сейчас в тренде
  • Фейгин лайф
  • Три кота
  • Самвел адамян
  • А4 ютуб
  • скачать бит
  • гитара с нуля
Иностранные видео
  • Funny Babies
  • Funny Sports
  • Funny Animals
  • Funny Pranks
  • Funny Magic
  • Funny Vines
  • Funny Virals
  • Funny K-Pop

Dive into Deep Learning Lec7: Regularization in PyTorch from Scratch (Custom Loss Function Autograd) скачать в хорошем качестве

Dive into Deep Learning Lec7: Regularization in PyTorch from Scratch (Custom Loss Function Autograd) 3 года назад

скачать видео

скачать mp3

скачать mp4

поделиться

телефон с камерой

телефон с видео

бесплатно

загрузить,

Не удается загрузить Youtube-плеер. Проверьте блокировку Youtube в вашей сети.
Повторяем попытку...
Dive into Deep Learning Lec7: Regularization in PyTorch from Scratch (Custom Loss Function Autograd)
  • Поделиться ВК
  • Поделиться в ОК
  •  
  •  


Скачать видео с ютуб по ссылке или смотреть без блокировок на сайте: Dive into Deep Learning Lec7: Regularization in PyTorch from Scratch (Custom Loss Function Autograd) в качестве 4k

У нас вы можете посмотреть бесплатно Dive into Deep Learning Lec7: Regularization in PyTorch from Scratch (Custom Loss Function Autograd) или скачать в максимальном доступном качестве, видео которое было загружено на ютуб. Для загрузки выберите вариант из формы ниже:

  • Информация по загрузке:

Скачать mp3 с ютуба отдельным файлом. Бесплатный рингтон Dive into Deep Learning Lec7: Regularization in PyTorch from Scratch (Custom Loss Function Autograd) в формате MP3:


Если кнопки скачивания не загрузились НАЖМИТЕ ЗДЕСЬ или обновите страницу
Если возникают проблемы со скачиванием видео, пожалуйста напишите в поддержку по адресу внизу страницы.
Спасибо за использование сервиса ClipSaver.ru



Dive into Deep Learning Lec7: Regularization in PyTorch from Scratch (Custom Loss Function Autograd)

This video discusses the implementation of a custom loss function in PyTorch and using torch.autograd.backward to compute the gradient of the loss function with respect to the model parameters. This approach has many applications, including regularizing deep learning models and neural networks using l1 and l2 norms. This video discusses the basics of regularization, such as adding penalty terms and regularization parameters that control the tradeoff between model fitting and complexity. We present a simple example using synthetic data to generate training and test data points. We then define a neural network model, initialize its weights, and define various loss functions. We also discuss how to implement Stochastic Gradient Descent (SGD). Here is the code summary: import numpy as np import torch from torch import nn from torch.utils import data import matplotlib.pyplot as plt Implementation from Scratch def init_params(): """Parameter initialization""" w = torch.normal(0, 1, size=(num_inputs, 1), requires_grad=True) b = torch.zeros(1, requires_grad=True) return [w, b] def l2_penalty(w): """Defining the penalty term """ return torch.sum(w.pow(2)) / 2 def l1_penalty(w): """Defining the penalty term """ return torch.sum(torch.abs(w)) def forward(X, w, b): """Linear regression model""" return torch.matmul(X, w) + b def squared_loss(y_hat, y): """Squared loss""" return (y_hat - y.reshape(y_hat.shape)) ** 2 / 2 def sgd(params, lr, batch_size): """Minibatch stochastic gradient descent""" with torch.no_grad(): for param in params: param -= lr * param.grad / batch_size param.grad.zero_() def evaluate_loss(net, data_iter, loss): """Evaluate the loss of a model on the given dataset""" l = 0 for X, y in data_iter: out = net(X) y = y.reshape(out.shape) w, b = init_params() num_epochs, lr, alpha, beta = 200, .001, 5, 1 net = lambda X: forward(X, w, b) train_loss = np.zeros(num_epochs) test_loss = np.zeros(num_epochs) for epoch in range(num_epochs): for X, y in train_iter: l = squared_loss(net(X), y) + alpha * l2_penalty(w) + beta * l1_penalty(w) l.sum().backward() sgd([w, b], lr, batch_size) with torch.no_grad(): train_loss[epoch] = evaluate_loss(net, train_iter, squared_loss) test_loss[epoch] = evaluate_loss(net, test_iter, squared_loss) plt.rcParams.update({'font.size': 14}) plt.plot(np.arange(num_epochs), train_loss, label='train') plt.plot(np.arange(num_epochs), test_loss, label='test') plt.legend() plt.yscale('log') l += loss(out, y).sum() return l #python #regularization #machinelearning

Comments
  • A Gentle Introduction To Math Behind Neural Networks and Deep Learning (nested composite function) 3 года назад
    A Gentle Introduction To Math Behind Neural Networks and Deep Learning (nested composite function)
    Опубликовано: 3 года назад
  • Dive Into Deep Learning, Lecture 2: PyTorch Automatic Differentiation (torch.autograd and backward) 4 года назад
    Dive Into Deep Learning, Lecture 2: PyTorch Automatic Differentiation (torch.autograd and backward)
    Опубликовано: 4 года назад
  • YOLOv1 from Scratch 5 лет назад
    YOLOv1 from Scratch
    Опубликовано: 5 лет назад
  • Вариационный автоэнкодер с нуля в PyTorch 3 года назад
    Вариационный автоэнкодер с нуля в PyTorch
    Опубликовано: 3 года назад
  • Объяснение PyTorch Autograd — подробное руководство 7 лет назад
    Объяснение PyTorch Autograd — подробное руководство
    Опубликовано: 7 лет назад
  • Ali Ghodsi, Lec10: Weight decay 10 лет назад
    Ali Ghodsi, Lec10: Weight decay
    Опубликовано: 10 лет назад
  • Coding LLaMA 2 from scratch in PyTorch - KV Cache, Grouped Query Attention, Rotary PE, RMSNorm 2 года назад
    Coding LLaMA 2 from scratch in PyTorch - KV Cache, Grouped Query Attention, Rotary PE, RMSNorm
    Опубликовано: 2 года назад
  • Let's build GPT: from scratch, in code, spelled out. 2 года назад
    Let's build GPT: from scratch, in code, spelled out.
    Опубликовано: 2 года назад
  • Оптимизаторы - ОБЪЯСНЕНИЕ! 5 лет назад
    Оптимизаторы - ОБЪЯСНЕНИЕ!
    Опубликовано: 5 лет назад
  • Понимание вероятностных нейронных сетей: гауссовский выходной слой (теория и реализация) 3 недели назад
    Понимание вероятностных нейронных сетей: гауссовский выходной слой (теория и реализация)
    Опубликовано: 3 недели назад
  • PyTorch Tutorial 11 - Softmax and Cross Entropy 5 лет назад
    PyTorch Tutorial 11 - Softmax and Cross Entropy
    Опубликовано: 5 лет назад
  • Регуляризация в нейронной сети | Борьба с переобучением 4 года назад
    Регуляризация в нейронной сети | Борьба с переобучением
    Опубликовано: 4 года назад
  • Electrons Don't Actually Orbit Like This 12 часов назад
    Electrons Don't Actually Orbit Like This
    Опубликовано: 12 часов назад
  • Computationally Efficient Optimization of Plackett-Luce Ranking Models for Relevance and Fairness 4 года назад
    Computationally Efficient Optimization of Plackett-Luce Ranking Models for Relevance and Fairness
    Опубликовано: 4 года назад
  • Учебник PyTorch 04 — Обратное распространение — Теория с примерами 5 лет назад
    Учебник PyTorch 04 — Обратное распространение — Теория с примерами
    Опубликовано: 5 лет назад
  • PyTorch for Deep Learning - Full Course / Tutorial 5 лет назад
    PyTorch for Deep Learning - Full Course / Tutorial
    Опубликовано: 5 лет назад
  • PyTorch Transfer Learning (taking a pretrained model and applying it to your own problem) 3 года назад
    PyTorch Transfer Learning (taking a pretrained model and applying it to your own problem)
    Опубликовано: 3 года назад
  • Physics Informed Neural Networks (PINNs): Solving the Burgers Equation Step-by-Step Tutorial 1 год назад
    Physics Informed Neural Networks (PINNs): Solving the Burgers Equation Step-by-Step Tutorial
    Опубликовано: 1 год назад
  • 133 - Что такое функции потерь в машинном обучении? 5 лет назад
    133 - Что такое функции потерь в машинном обучении?
    Опубликовано: 5 лет назад
  • Graph Neural Networks (GNN) using Pytorch Geometric | Stanford University 5 лет назад
    Graph Neural Networks (GNN) using Pytorch Geometric | Stanford University
    Опубликовано: 5 лет назад

Контактный email для правообладателей: [email protected] © 2017 - 2025

Отказ от ответственности - Disclaimer Правообладателям - DMCA Условия использования сайта - TOS



Карта сайта 1 Карта сайта 2 Карта сайта 3 Карта сайта 4 Карта сайта 5