ディープラーニングの推論処理を高速化するモデル軽量化技術の基礎と最新動向【提携セミナー】
開催日時 | 未定 |
---|---|
担当講師 | 山本 康平 氏 |
開催場所 | 未定 |
定員 | - |
受講費 | 未定 |
○モデルの性能をできる限り維持しつつ、メモリ使用量・演算量を削減する22のテクニックを紹介。
○主に有力国際会議に掲載されている最新アルゴリズムを、
理論的な厳密さよりもイメージやコンセプト重視で解説します。
ディープラーニングの推論処理を高速化する
モデル軽量化技術の基礎と最新動向
【提携セミナー】
主催:株式会社情報機構
ディープラーニングのモデルは、その他の機械学習モデルと比べて推論処理に必要なメモリ使用量・演算量が膨大であり、さらにそれらを多く必要とするモデルほど性能(認識精度など)が良くなる傾向があります。一般に、メモリ使用量や演算量は、処理速度・消費電力・部品コスト等に直接関わるため、なるべく小さく抑えたいところです。そのようなニーズに対し、ディープラーニングモデルの性能をできる限り維持しつつメモリ使用量・演算量を削減する軽量化技術が登場し、研究が進められています。
本講演では、画像認識問題を題材として、まず軽量化の観点からディープラーニングの基礎を説明した後、様々な軽量化技術のテクニック(計22手法)を紹介していきます。各テクニックに関しては、AI系の有力国際会議(CVPR、ICLRなど)やプレプリントサーバ(ArXiv)に掲載されている最新アルゴリズムを主に扱い、理論的な厳密さよりもイメージやコンセプト重視でわかりやすくご説明します。
◆ 受講対象者
ディープラーニングのモデル軽量化技術にご興味をお持ちの方、短時間で概要を理解したい方、最新動向を知りたい方。
◆ 必要な予備知識
ディープラーニング関連の予備知識
*最初のセクションで基礎から解説しますので必須ではありませんが、あれば理解し易いです。
◆ 本セミナーで習得できること
- ディープラーニングの基礎知識
- 各種モデル軽量化技術の基本とノウハウ、最新動向
など
担当講師
沖電気工業株式会社 イノベーション推進センター AI技術研究開発部 山本 康平 氏
セミナープログラム(予定)
1.ディープラーニングの基礎
1.1 データ表現と問題設定
1.2 全結合ネットワークモデル
1.3 畳み込みネットワークモデル
1.4 代表的なモデルとその構成要素
2.モデルプルーニング
2.1 非構造化プルーニング
2.2 構造化プルーニング
3.ネットワーク量子化
3.1 二値化
3.2 一様量子化
3.3 非一様量子化
4.軽量アーキテクチャ設計
4.1 分岐・合流接続の工夫
4.2 畳み込みの要素分解
4.3 構造の自動探索
5.その他の軽量化技術
5.1 重み共有
5.2 知識蒸留
5.3 低ランク近似
6.まとめ
<質疑応答>
公開セミナーの次回開催予定
開催日
未定
開催場所
未定
オンライン配信のご案内
★ Zoomによるオンライン配信
については、こちらをご参照ください
受講料
未定
配布資料
●配布資料はPDF等のデータで送付予定です。受取方法はメールでご案内致します。
(開催1週前~前日までには送付致します)。
*準備の都合上、開催1営業日前の12:00までにお申し込みをお願い致します。
(土、日、祝日は営業日としてカウント致しません。)
備考
●当日、可能な範囲で質疑応答も対応致します。
(全ての質問にお答えできない可能性もございますので、予めご容赦ください。)
●本講座で使用する資料や配信動画は著作物であり
無断での録音・録画・複写・転載・配布・上映・販売等を禁止致します。
お申し込み方法
★下のセミナー参加申込ボタンより、必要事項をご記入の上お申し込みください。