★なぜＡＩは、その答えを導き出した？ 判断根拠は？　

経営層へ説明するにはどうしたら．．．

ＡＩを活用する上でカギとなる、判断結果の可視化、

因果関係を推定する方法を大公開！！

ＡＩのブラックボックス解析と

社内への説明方法

【提携セミナー】

主催：株式会社技術情報協会

講座内容

• 説明性の高い時系列波形データ分析向けAIの開発と説明性を実現するためのポイント
• AIのブラックボックス解析技術と経営層へのAI判断理由の説明方法
• AIの判断理由解析の方法と経営層への根拠の伝え方

習得できる知識

AIが導き出した答えの妥当性をどのように評価するか、AIの説明性についての解説、判断結果の可視化、因果関係を推定する方法、社内で説明する際の方法を把握できる。

担当講師

【第1部】(株)東芝　研究開発センター 知能化システム研究所 システムAIラボラトリー エキスパート　山口 晃広 氏
【第2部】(株)日立ソリューションズ・テクノロジー　画像AIソリューション設計部　主管技師　猪貝 光祥 氏
【第3部】(株)ソニーコンピュータサイエンス研究所　シニアリサーチャー 兼 データ分析プログラムシニアプログラムマネジャー　磯崎 隆司 氏

セミナープログラム（予定）

（10:30～12:00）
「説明性の高い時系列波形データ分析向けAIの開発と説明性を実現するためのポイント」
(株)東芝　研究開発センター 知能化システム研究所 システムAIラボラトリー エキスパート　山口 晃広 氏

【講演趣旨】
近年，インフラ設備や製造装置に取り付けたセンサから時系列波形データを収集し，AIにより異常や正常を自動判別する異常診断技術に注目が集まっている．このような社会インフラや製造分野では，判別性能だけではなく，専門家がAIの判断結果を波形から理解しやすい説明性が求められる．一方で，異常データを事前に収集することが難しいこと，異常の見逃しと誤検出とでリスクに違いがあること，波形データを観測したタイミングにより波形が変化すること，などの課題もある．本講演では，時系列波形データの分析手法やAIの説明性について解説し，我々が開発した波形異常診断技術を紹介する．

【講演項目】
1.一般的なAIによるクラス分類
1-1.問題設定
1-2.簡単なAIによるクラス分類のアプローチ
2.AIの説明性
2-1.AIの説明性における課題や要件
2-2.AIで説明性を実現するアプローチ
3.異常検知手法
3-1.異常データが少ない場合の課題とアプローチ
3-2.異常データを学習時に必要としない異常検知手法（1クラスサポートベクトルマシン; OCSVM 等）
3-3.異常データが少ない場合の評価指標（再現率, 適合率, F値, ROC曲線, AUC）
4.波形診断技術
4-1.時系列波形データの特徴や課題
4-2.説明性のある波形診断技術（shapelets学習法）
4-3.公開時系列波形データセット
5.波形異常診断技術の紹介
5-1.正常波形データのみで学習する説明性の高い異常波形検知技術OCLTS
5-2.見逃しあるいは誤検出を厳しく抑えて学習する説明性の高い波形診断技術LTSpAUC
5-3.観測タイミングによる波形の変化を予測する説明性の高い波形診断技術LETS
5-4.産業事例への適用例
【質疑応答】

————————————————————————-
（13:00～14:30）
「AIのブラックボックス解析技術と経営層へのAI判断理由の説明方法」
(株)日立ソリューションズ・テクノロジー　画像AIソリューション設計部　主管技師　猪貝 光祥 氏

【講演趣旨】
AI開発の課題の1つに、AIが下した判断の妥当性をどう評価すべきかという問題がある。本セミナーでは画像認識AIをテーマに、誤認識が起きた時の解明のアプローチ、汎化性能の向上手段、学習データの充足度、未知の評価データに対する追加学習の必要性などの課題に直面したときの具体的対処法を説明する。これらは開発費用や期間といった投資対効果に直結することもあり、先端技術活用時におけるビジネスインパクトとデファクト技術活用からの不安をどう解消するかについても説明する。

【講演項目】
1.AI開発の現状と技術面・ビジネス面の課題
2.画像認識におけるBlack Box問題解消のためのアプローチ
3.DNNモデルの特性を可視化する
4.DNNが下した判断根拠を説明する道具
5.経営層の期待とAI成果物とのGap
6.AIエッジコンピューティングの今後の展望
【質疑応答】

————————————————————————-
（14:45～16:15）
「AIの判断理由解析の方法と経営層への根拠の伝え方」
(株)ソニーコンピュータサイエンス研究所　シニアリサーチャー 兼 データ分析プログラムシニアプログラムマネジャー　磯崎 隆司 氏

【講演趣旨】
近年，予測・識別タスクにおけるAIの活用が盛んになっていますが，AIの高度化により人間がその出力結果を理解できない，あるいは説明できないという状況が発生しています．一方弊社では長年に渡り，データから因果を推定する方法の研究開発を行っており，ソニーグループ関連企業内の様々な領域で広く活用が進んでいるほか，外部企業へのソフトウェア・ライセンスの提供も行なっています．このメソッドにより，通常のAIでは難しい出力の理解や説明がかなりできるようになっています．本講演では通常のAIとこの技術との違いをご説明し，ブラックボックスの解析方法・判断理由の説明方法の1つとしてご紹介をいたします．

【講演項目】
1.AIの活用状況
2.AIの活用で求められる説明性
3.AIの活用における進んだ手法
4.AIの活用とブラックボックス性
5.ソニーCSLでの研究開発活動
6.ソニーCSLの開発した因果推定技術CALC
7.CALCの活用方法と活用事例のご紹介
8.因果推定によって可能になる介入意思決定支援
9.CALCによる定量的因果効果の予測
10.因果の推定によるAI結果の理解と説明
11.AI結果説明へのCALCの適用
【質疑応答】

公開セミナーの次回開催予定

開催日

2022/6/29（水）10:30~16:15

開催場所

Zoomによるオンライン受講

受講料

1名につき60,500円(消費税込､資料付)
〔1社2名以上同時申込の場合のみ1名につき55,000円〕

技術情報協会主催セミナー　受講にあたってのご案内

• Live配信セミナーの接続確認・受講手順は こちら をご確認ください。
• お申込み・お支払い方法に関するご案内はこちら をご確認ください。

備考

資料は事前に紙で郵送いたします。

お申し込み方法

★下のセミナー参加申込ボタンより、必要事項をご記入の上お申し込みください。

※お申込後はキャンセルできませんのでご注意ください。

※申し込み人数が開催人数に満たない場合など、状況により中止させていただくことがございます。