У нас вы можете посмотреть бесплатно torch.nn.TransformerEncoderLayer - Part 2 - Transformer Self Attention Layer или скачать в максимальном доступном качестве, видео которое было загружено на ютуб. Для загрузки выберите вариант из формы ниже:
Если кнопки скачивания не
загрузились
НАЖМИТЕ ЗДЕСЬ или обновите страницу
Если возникают проблемы со скачиванием видео, пожалуйста напишите в поддержку по адресу внизу
страницы.
Спасибо за использование сервиса ClipSaver.ru
This video shows how the Transformer Encoder Layer Self Attention works. This is the layer immediately after the Embedding and the Positional Encoding Layer. 0:00 Positional Encoding 0:46 Key, Query and Value Calculation 8:29 Scaling 8:47 Attention Weights 14:52 Self Attention Output + Self Attention Input torch version - 1.10.0