Почему «Трансформеры» заменяют CNN? скачать в хорошем качестве

Почему «Трансформеры» заменяют CNN?

Почему Трансформер классифицирует эту кошку как кошку… а ResNet называет её ара? В этом видео мы разберём одно из самых значительных изменений в компьютерном зрении: почему Трансформеры заменили сверточные нейронные сети (СНС), хотя СНС были разработаны для изображений, а Трансформеры — для языка. Мы сравним свёртку и внутреннее внимание, рассмотрим индуктивные искажения СНС (локальность, инвариантность к трансляции, иерархические особенности) и выясним, почему внутреннее внимание однозначно более выразительно, чем свёртка. Вы также узнаете, как внимание может точно реализовать свёрточные ядра, используя относительное позиционное кодирование. 📚 Ресурсы: О связи между собственным вниманием и свёрточными слоями: https://arxiv.org/abs/1911.03584 Обратное распространение ошибки при распознавании рукописных почтовых индексов: http://yann.lecun.com/exdb/publis/pdf... AlexNet (статья, популяризировавшая сверточные нейронные сети в глубоком обучении): https://proceedings.neurips.cc/paper_... Трансформер: https://arxiv.org/abs/1706.03762 00:00 Введение 01:30 Операция свёртки 03:34 Свёрточные нейронные сети (Сверточные нейронные сети) 05:51 Индуктивное смещение в сверточных нейронных сетях 07:22 Внутреннее внимание 10:39 Внутреннее внимание может реализовывать свёртки 14:17 Вычислительная мощность и многомодальность 16:03 ChatGPT может быть забавным