视觉变换器：MAIB-class-012:Vision Transformer and its Applications

[Tlexander]

15min后开始， 视觉变换器及其应用

https://ai2healthcare.github.io/news/20 ... miao_Xiong

Title：MAIB-class-012:Vision Transformer and its Applications
Date： Saturday, 10:00pm US East time, 04/015/2023
Date： Sunday, 10:00am Beijing time, 04/16/2023
Zoom ID： 933 1613 9423
Zoom PWD： 416262
Zoom: https://uwmadison.zoom.us/meeting/regis ... lnGn06TP2E

变换器是人工智能在近五年内的最为重要的突破，它在自然语言处理中起了核心的作用。变换器由编码，解码两部分组成。它与自编码器的主要不同之处有以下几点。（1）变换器的编码和解码都是一类特殊的神经网络。它们是由多头，多层次的Self Attention网络组成。编码和解码器的输出都包括了序列数据之间最复杂和最本质的相互作用关系。由他们的输出（即embedding)所形成的空间比变分自编码器隐式高斯空间更为广泛，表达力更强，因而予报精度更高。（2）变换器更容易用作生成器，可生成代码，数学公式，甚至用于推理，计划和决策等。(3)易于推广到图象，视频等数据分析。

[Tlexander]