★近年発展が著しい Vision Transformerの最新動向を把握！

その仕組みや様々な改良モデル、実装方法などがわかる！

画像認識の革新モデル

ViT（Vision Transformer）の基礎とその利用法

【提携セミナー】

主催：株式会社情報機構

7月8日『自然言語処理モデル BERT 及びその発展形のTransformer ベースの各種モデル（BART、GPT-2、T5、GPT-3）の基礎と利用方法』とセットで受講が可能です。

自然言語処理タスクでは、従来の手法を一新させたTransformerが広く利用されているが、画像処理タスクでも2020年頃からVision Transformerが盛んに用いられてきており、近年その発展が著しい。

本講座では、Vision Transformerの仕組みや様々なモデルの特徴・性能・留意点などの基礎的事項から、各分野における最新の研究動向、実装の軽量化や高速化について解説する。

◆受講後、習得できること

• Vision Transformerを用いた画像認識の最新動向が把握できる
• Vision Transformerの仕組みや様々な改良モデル、実装方法などがわかる
• 画像分類、物体検出、セグメンテーション、姿勢推定、画像生成などの画像処理タスクおよびそれらを含むマルチモーダルタスクへのVision Transformerの導入方法や期待される効果が分かるようになる
  など

◆受講対象者

• 画像・動画処理に深層学習を用いている方
• Vision Transformerの導入を検討している方
• Vision Transformerを使いこなせていないとお考えの方
• 深層学習の最新の研究動向を抑えておきたい方
  など

担当講師

東京工業大学 学術国際情報センター　准教授 博士（工学） 　横田 理央 先生

セミナープログラム（予定）

1.Vision Transformerの基礎知識
　～基本的な仕組みおよび各種改良モデルの解説～
　1）はじめに
a) Vision Transformerの魅力
b) Vision Transformerの特性

　2）Transformerの仕組み
a) Self-Attention
b) Multi-Head Attention
c) Transformer全体の構造
d) 事前学習

　3）Vision Transformerの仕組み
a) Patchとposition encoding
b) 正規化
c) Shortcut connection
d) Attentionの役割

　4）アーキテクチャの改良
a) DeiT
b) TNT
c) CAT
d) RegionViT
e) DeepViT
f) KVT
g) PVT
h) SwinTransformer
i) PiT
j) CrossFormer
k) Focal Transformer

　5）Neural Architecture Search
a) Scaling-ViT
b) ViTAS
c) AutoFormer
d) GLiT
e) HAT

　6）CNNとのハイブリッド
a) CPVT
b) CvT
c) CeiT
d) LocalViT
e) CMT
f) LeViT
g) BoTNeT
h) ResT
i) NesT

　7）自己教師あり学習
a) MoCo v3
b) BYOL + SwinTransformer
c) DINO
d) EsViT
e) MoBY

2.Vision Transformerの応用例・研究動向
　～各分野への適用法やその効果・留意点など～
　1）物体検出
a) DETR
b) YOLOS
c) SMCA
d) UP-DETR
e) PED
f) LSTR

　2）セグメンテーション
a) CMSA
b) Max-DeepLab
c) VisTR
d) ISTR
e) SETR
f) Segmenter
g) TransUNet
h) GAA
i) Cell-DETR
j) SegFormer
k) Maskformer

　3）姿勢推定
a) HOT-Net
b) METRO
c) TransPose
d) TokenPose
e) Skeletor

　4）画像生成
a) iGPT
b) TransGAN
c) ViTGAN
d) Image Transformer
e) Taming Transformer
f) DALL・E
g) TTSR
h) IPT
i) SceneFormer
j) ColTran

　5）動画認識
a) Action Transformer
b) I3D
c) Temporal Transformer
d) Actor Transformer
e) MEGA
f) Spatiotemporal Transformer
g) ConvTransformer
h) Recurrent Transformer
i) MViT
j) ViViT

　6）マルチモーダル学習
a) VideoBERT
b) VisualBERT
c) VL-BERT
d) ViLBERT
e) LXMERT
f) SpeechBERT
g) CLIP
h) CogView
i) Unicoder-VL
j) UNITER
k) Perceiver IO

3.Vision Transformerの実装と軽量化・高速化手法
　1）軽量化
a) 剪定
b) 蒸留
c) 量子化
d) アーキテクチャの改良

　2）高速化
a) Linformer
b) Reformer
c) Cluster attention

　3）実装
a) pytorch-image-models
b) PyTorch DDP, FSDP, Pipe
c) DeepSpeed

　　＜質疑応答＞

公開セミナーの次回開催予定

開催日

2022年7月22日（金）　12:30-16:30

開催場所

Zoomによるオンラインセミナー

受講料

『画像認識モデルViT（7月22日）』のみのお申込みの場合
【オンラインセミナー（見逃し視聴なし）】：1名41,800円(税込、資料付)
＊1社2名以上同時申込の場合、1名につき30,800円

【オンラインセミナー（見逃し視聴あり）】：1名47,300円(税込、資料付)
＊1社2名以上同時申込の場合、1名につき36,300円

『自然言語処理モデルBERT（7月8日）』と合わせてお申込みの場合
（同じ会社の違う方でも可。※二日目の参加者を備考欄に記載下さい。）
【オンラインセミナー（見逃し視聴なし）】：1名61,600円(税込、資料付)
＊1社2名以上同時申込の場合、1名につき50,600円⇒割引は全ての受講者が両日参加の場合に限ります

【オンラインセミナー（見逃し視聴あり）】：1名72,600円(税込、資料付)
＊1社2名以上同時申込の場合、1名につき61,600円⇒割引は全ての受講者が両日参加の場合に限ります

＊学校法人割引；学生、教員のご参加は受講料50％割引。

●録音・録画行為は固くお断り致します。

オンライン配信のご案内

★　Zoomによるオンライン配信

については、こちらをご参照ください

備考

配布資料・講師への質問等について
●配布資料はPDF等のデータで送付予定です。受取方法はメールでご案内致します。
（開催1週前～前日までには送付致します）。
＊準備の都合上、開催1営業日前の12:00までにお申し込みをお願い致します。
（土、日、祝日は営業日としてカウント致しません。）

●当日、可能な範囲で質疑応答も対応致します。
（全ての質問にお答えできない可能性もございますので、予めご容赦ください。）
●本講座で使用する資料や配信動画は著作物であり
無断での録音・録画・複写・転載・配布・上映・販売等を禁止致します。

お申し込み方法

★下のセミナー参加申込ボタンより、必要事項をご記入の上お申し込みください。

★【(オンライン)7月22日のみ参加（見逃視聴なし）】、【(オンライン)7月22日のみ参加（見逃視聴あり）】、【(オンライン)7月8日・7月22日　両日参加（見逃視聴なし）】、【(オンライン)7月8日・7月22日　両日参加（見逃視聴あり）】のいずれかから、ご希望される受講形態をメッセージ欄に明記してください。