AI半導体チップについて

・要素技術や実装の勘所および低消費電力／小型／高効率化へのアプローチ

・エッジAI／サーバ用など用途に応じたAIチップ動向

・自動運転やIoTなどアプリケーション展開例

・最先端の研究動向やニューロモルフィック工学

など、なかなか動向の掴みにくい本分野を徹底解説いたします！

AI半導体チップの基礎から実装のポイント、

最先端動向まで

【提携セミナー】

主催：株式会社情報機構

■はじめに：

○ AIチップとは？：AIチップから眺めますと、AIのネットワークは極めて単純です。ネット全体の接続数に集約されます。またその接点にデータの重要度（重み）が重畳されます。結局AIチップの原理は積和演算の集合体で、それを如何に効率良く並べ動かすかにつきる単純ものです。その簡単な原理からチップ実装を解り易く説明致します。

○ 市場の動向：AIという大きな括りからみると、アルゴリズムリード（AlexNet：2012年）から遅れること2年位で動き始めたAIチップも昨今はアルゴリズムとの協調の重要性がより認識され、ついにはAI全体を牽引する勢いです。サーバ用はもちろんの事、特にスタートアップが活発に参入している1mW級のTinyMLチップ旋風が昨今勢いを増しています。IoT関連への浸透は既に始まっています。その市場投入前の情報も含め最前線を説明します。

○ 研究最前線：このAIの世界の大きな特徴はAIの民主化が行われている点です。マルチメディアでは標準化が技術のキーワードでしたが、AIでは民主化がキーワードとなります。全くの障壁のない自由競争が行われている点です。研究費投入のインセンティブが研究の推進力となります。実用的な最先端研究（特にCIM）が中国/台湾系を筆頭にまさしく花開きつつあります。この点に絞り研究最前線を紹介します。本当に実用化されるかの見通しがここ1年ほどでつくと予想しています。

◆受講後、習得できること

・AIの最新動向
・AIチップの動作原理
・AIチップの最新研究動向
・AIチップ市場動向
・ドメイン別（応用別：サーバ、エッジ、TinyML）AIチップの違いとシステム応用
など

◆受講対象者

・実用的なAI最新動向を関して知りたい方（AIチップの観点から説明します）
・AIチップ動作原理を知りたい方（どの様に計算・実装されているか紹介）
・AIチップの技術を知りたい方（基礎から最先端/将来の研究動向を紹介）
・AIチップの導入を検討されている方（現状、今後のチップを紹介）
・システム応用に関して（代表的な幾つかの応用例を紹介します）

◆必要な予備知識など

ニューラルネットワークの演算が積と和（積和演算）で行われていること。ベクトルとマトリクスのベクトル・行列演算を如何に効率よく処理するかがAIチップのポイントとなります。この点を理解されていることが予備知識としてあると理解が深まります。

◆ご講演中のキーワード：
AI chip、深層学習、サーバ用AI、 エッジAI、Tiny ML、行列ベクトル積、量子化・スパース化、スループット、エネルギー効率

◆事前に目を通しておくとより理解が深まる文献、サイトなど　※閲覧必須ではございません。

(1) Michael Nielsen著 （+日本語翻訳プロジェクト）/ 2014年9月-12月
「ニューラルネットワークと深層学習」 (第一章、可能なら二章)
https://nnadl-ja.github.io/nnadl_site_ja/index.html

(2)浅井 哲也, 他 “ディープ・ラーニング&ニューロモルフィック・ハードウェアの遍歴,” トランジスタ技術, vol. 2020, no. 10, pp. 27-34 (2020).

・AIの動向/AIチップの最新情報に関しては以下が参考となります。

（解説記事）百瀬 啓, 浅井 哲也, “Deep learning chips and AI computing,” 人工知能学会誌, vol. 33, no. 1, pp. 23-30 (2018).
（解説記事）百瀬 啓, 浅井 哲也, “ディープ・ラーニング&ニューロモルフィック・ハードウェアの遍歴,” トランジスタ技術, vol. 2020, no. 10, pp. 102-111 (2020).

担当講師

北海道大学 大学院　情報科学研究院　学術研究員　百瀬 啓 先生

セミナープログラム（予定）

１．AIチップ市場最前線（国内外）
1.1　AIチップの台頭（2014～）/熾烈なサーバ高速化競争（‘16年～）
1.2　激化するエッジAI(‘18～）/Tiny MLチップの台頭（’19～）

２．AIチップ構成に必要な要素技術
2.1　ディープラーニングの発展と展開（種類）
2.2　入力次元数とパラメータ数/演算数

３．AIチップの実装のポイントと演算性能
3.1　基本回路構成（MAC/中間データ/重みバッファー/関数）
3.2　MACアレイの構成種類
3.3　推論と学習の構成差

４．低消費電力化、小型化、高効率化へのアプローチ
4.1　量子化(8-4b/Ternary、bin)
4.2　スパース化(Pruning/Data Skipping)
4.3　データフロー効率化(WS、OS/IS、RS)
4.4　メモリバンド幅(ルーフモデル）

５．究極の技術？！　CIM (Computing in memory)・・・研究最前線
5.1　s_CIM (SRAM)・・・ Current domain type/ Charge domain type
5.2　nv_CIM (NVM)・・・ReRAM/PCM

６．用途に応じたAIチップの最新動向【サーバ用】
6.1　GPU vs ASIC（A100 vs TPU/MN-Core・・・)
6.2　メモリ混載型の対応 （DaDianNao、Graphcore, Cerebras）
6.3　並列演算処理の戦い （データ vs モデル並列、スパース化）

７．用途に応じたAIチップの最前線【Edge AI】
7.1　エッジAI (自動運転, スマホ, 産業用, EdgeTPU, J_Nano・・・）
7.2　TinyML(MCU型/RISC-V/CIM型/TFL型/ニューロモルフィック型）

８．各種アプリケーションへのチップ適用
8.1　自動運転(E2End/R-CNN)、自動翻訳(Attention/Transformer)
8.2　深層強化学習(アルファ碁/Zero)、IoT(人物検知, KWS, 異常検知)

９．ブレークスルーを狙うニューロモルフィック工学
9.1　ニューロモルフィック工学
9.2　SNN チップ (TrueNorth/Loihi/DynapSE CNN)
9.3　最新注目技術動向：リザバーコンピューティング

１０．今後の技術動向と纏め

＜質疑応答＞

公開セミナーの次回開催予定

開催日

2021年8月20日（金）　10:30-16:30　＊途中、お昼休みや小休憩を挟みます。

開催場所

Zoomによるオンラインセミナー

受講料

【オンライン：見逃し視聴なし】：1名47,300円(税込、資料付)
＊1社2名以上同時申込の場合、1名につき36,300円
【オンライン：見逃し視聴あり】：1名52,800円(税込、資料付)
＊1社2名以上同時申込の場合、1名につき41,800円

※学校法人割引；学生、教員のご参加は受講料50％割引

オンライン配信のご案内

★　Zoomによるオンライン配信

については、こちらをご参照ください

備考

配布資料は、印刷物を郵送で送付致します。
お申込の際はお受け取り可能な住所をご記入ください。
お申込みは4営業日前までを推奨します。
それ以降でもお申込みはお受けしておりますが（開催1営業日前の12:00まで）、
テキスト到着がセミナー後になる可能性がございます。

当日、可能な範囲で質疑応答も対応致します。
（全ての質問にお答えできない可能性もございますので、予めご容赦ください。）
本講座で使用する資料や配信動画は著作物であり、無断での録音・録画・複写・転載・配布・上映・販売等を禁止致します。

お申し込み方法

★下のセミナー参加申込ボタンより、必要事項をご記入の上お申し込みください。

★【オンラインセミナー（見逃し視聴なし）】、【オンラインセミナー（見逃し視聴あり）】のいずれかから、ご希望される受講形態をメッセージ欄に明記してください。