Vision Transformers: всё, что вам нужно — это внимание
Статья о революционной архитектуре, которая изменила подход к компьютерному зрению
Аннотация
С появлением статьи "Attention Is All You Need" закончилось доминирование рекуррентных нейронных сетей (Recurrent Neural Network — RNN). Поскольку трансформеры показывают лучшие результаты на практике по сравнению с RNN, давайте разберёмся, что они собой представляют и как работают в области компьютерного зрения.