〇Vision Transformerについて従来の手法と対比しながらその仕組みを解説し、

コンピュータビジョン応用を中心とした最前線についても紹介！

Vision Transformerの仕組みと最新動向

≪コンピュータビジョン応用を中心とした最前線について≫

【提携セミナー】

主催：株式会社情報機構

自己注意機構を活用したニューラルネットワークであるTransformerは、機械翻訳タスクでSoTAを達成し実用化を加速させている。このTransformerをコンピュータビジョンタスクに適用したモデルがVision Transformerであり、2019年以降、急速に応用と改良が加えられている。Vision Transformerは、CNNとは異なる新たな特徴表現獲得が可能となり、テクスチャノイズに対してロバストな認識が可能となっている。本セミナーではVision Transformerについて従来の手法と対比しながらその仕組みを解説し、コンピュータビジョン応用を中心とした最前線についても紹介する。

担当講師

中部大学　 工学部ロボット理工学科　 教授　 藤吉弘亘 氏

■専門および得意な分野・研究
計算機視覚，動画像処理，パターン認識・理解の研究

■ご略歴
1997年 中部大学大学院博士後期課程修了, 1997年 米カーネギーメロン大学ロボット工学研究所
Postdoctoral Fellow, 2000年 中部大学工学部情報工学科講師, 2004年 中部大学准教授,
2005年 米カーネギーメロン大学ロボット工学研究所客員研究員(～2006年), 2010年 中部大学教授, 2014年名古屋大学客員教授.

セミナープログラム（予定）

1　再帰型ニューラルネットワークの仕組み
1.1　再帰型ニューラルネットワーク（RNN）
1.2　LSTM
1.3　Seq2seq、Attention Seq2seq

2　Transformerの仕組み
2.1　Transformer
2.2　大規模言語モデル

3　Vision Transformerの仕組み
3.1　特徴表現獲得の変遷
3.2　Vision Transformer（ViT)
3.3　ViTによる画像認識
3.4　ViTによる特徴表現獲得

4　ViTの最新動向
4.1　ViTの派生手法（Swin Transformer、ConvNeXtなど）
4.2　ViTの派生手法の傾向

公開セミナーの次回開催予定

開催日

未定

開催場所

未定

受講料

未定

●録音・録画行為は固くお断り致します。

オンライン配信のご案内

★　Zoomによるオンライン配信

については、こちらをご参照ください

備考

※配布資料等について

●配布資料は、印刷物を1部郵送、または資料データのダウンロードいずれかで調整中です。

• お申込については4営業日前までのお申込みを推奨します。（土、日、祝日は営業日としてカウント致しません。）
• 上記以降でもお申込みはお受けしておりますが（開催1営業日前の12:00まで）、テキストが郵送となった場合、資料到着がセミナー後になる可能性がございます。
• 資料未達の場合などを除き、資料の再配布はご対応できかねますのでご了承ください。

●当日、可能な範囲でご質問にお答えします。（全ての質問にお答えできない可能性もございます。何卒ご了承ください。）
●本講座で使用する資料や配信動画は著作物であり、無断での録音・録画・複写・転載・配布・上映・販売などは禁止致します。

お申し込み方法

★下のセミナー参加申込ボタンより、必要事項をご記入の上お申し込みください。