AI搭載システムを品質・安全保証するための重要なポイントや、

各種検証手法について過去の開発経験を踏まえて解説

AI搭載システムの品質・安全保証技術と

検証のポイント

【提携セミナー】

主催：株式会社R&D支援センター

◆セミナー趣旨

近年、多様なシステムで人工知能(AI)が活用され、サービスの変革が進行しています。AIには、ブラックボックスのため振る舞いが不明確であり、結果が不確かであり、学習によって繰り返し更新される、といった特性があります。今まで高い製品品質を実現してきた国内製造業メーカーにおいても、AI搭載システムの品質・安全保証や品質・安全説明には非常に苦労されているのが実状です。

加えて、2024年5月に欧州委員会によりAI法が最終承認され、8月に法律が成立しました。2026年頃から実質的には全面施行予定であり、対応準備は急務です。日本においても2025年6月にAI法が成立。違反しても罰則の無いソフトローの位置付けですが、対応が望ましい方向に向かっています。イタリアにおいても2025年9月に、AIに関する包括的な法律が可決されました。さまざまな国でAI法の導入が進む中、記載の要求条項は多岐にわたり、抽象度も高く、AI搭載システムのメーカーや開発者は、何をどれだけ実施すれば合格に達するか、どのように品質・安全性を説明すればよいのか、多くの技術課題を抱えておられる状況かと思われます。

これに対し当社では、2017年よりAI搭載システムを機能安全規格適合するための研究事業を実施してまいりました。本研究事業を通して、AI搭載システムの品質・安全性を検証し、説明可能にし、AIシステムの機能安全規格に適合可能にする技術を構築してまいりました。その知見を応用して、現在多くの企業を支援しております。

本セミナーでは、これらの知見を踏まえ、AI搭載システムを品質・安全保証するための重要なポイントや、各種検証手法について過去の開発経験を踏まえて解説します。

◆習得できる知識

• AI搭載システムの品質保証、安全性保証するための手法やポイントについて、学ぶことができます。
• 従来システムとAI搭載システムの違いや、AI搭載システムを品質保証する際の技術課題について学ぶことができます。
• システムにAIを取り入れて開発・評価される際に、学習した技術を活用できます。
• 欧州AI法やAIシステムの機能安全規格の要求事項について、把握することができます。

◆受講対象

• AI搭載システムの品質・安全性保証の対応を必要とされている機械学習モデル開発者・品質保証担当の方
• AI搭載システムの品質・安全性保証の法規対応や業界トレンドに関心をお持ちの方
• AI搭載システムをAI法や安全規格に適合必要な方

◆必要な前提知識

• 組込みシステムの開発や品質保証に関する基礎知識
• 機械学習モデル開発に関する基礎知識

担当講師

（株）ヴィッツ　ソフトウェア事業領域　執行役員　森川 聡久　氏

【ご専門】
組込みソフトウェア開発、品質保証、プロジェクト管理、機能安全、製品安全、AIシステム安全

【ご略歴等】
入社以来、デジタル情報家電のソフトウェア開発と、車載向けソフトウェアプラットフォームの開発に従事。2006年より機能安全対応を率い、2010年4月に日本初のIEC 61508 SIL3プロセス認証取得、2012年3月に世界初のISO 26262 ASIL Dプロセス認証取得に成功。この経験を活かして、さまざまな産業ドメインの機能安全・製品安全を支援中。
2017年より、人工知能(AI)搭載システムを機能安全規格適合するための研究と、自動運転レベル4システムを安全論証するための研究を開始し、安全設計ガイドライン（SEAMSガイドライン）を作成する。この技術知見を活かして、AIの機能安全規格ISO/IEC TR 5469の策定に貢献。
ISO/IEC JTC1/SC42 WG3委員。IoT住宅 規格作成ＷＧ委員会オブザーバー。MISRA-C研究会メンバ。システム開発文書品質研究会(ASDoQ)運営委員。組込みシステム開発技術研究会(CEST)幹事。

セミナープログラム（予定）

１．AI搭載システムの特徴と品質保証の課題
1-1　現在のAI導入状況や企業の取組み
1-2　さまざまなAI搭載システムの例
1-3　AI搭載システムの特徴と従来ソフトとの主な違い
1-4　AI搭載安全関連システムの課題
1-5　AIに関する標準化動向
（１）AI搭載システムの法規制に関する各国の主な動向
（２）AI搭載システムに対する安全性の標準化動向
（３）主なAIセキュリティ関連標準化活動
（４）ISO/IECJTC1/SC42開発規格の状況
（５）その他の主要な標準化動向

２．従来の品質・安全保証技術、説明技術
2-1　国際標準化した機能安全開発の概要
（１）安全規格の階層構造
（２）高信頼性保証のための機能安全開発プロセスの重視ポイント
（３）機能安全開発時の注意点
2-2　機能安全の品質・安全保証技術とは
（１）リスク評価の概要
（２）ハザーダスイベントの構成要因
（３）本質安全と機能安全
（４）リスク低減のアプローチ
2-3　機能安全の品質・安全説明技術とは
（１）従来の品質管理と機能安全管理の違い
（２）安全ケース（Safety Case）の主要３要素
（３）品質・安全説明力として重要な「文書化」
（４）要求のトレーサビリティ管理

３．AI搭載システムの代表的な品質・安全保証標準の解説
3-1　AIシステムライフサイクルプロセス ISO/IEC 5338
3-2　AIシステムの機能安全規格 ISO/IEC TR 5469
3-3　車載AIシステムの安全規格 ISO PAS 8800
3-4　自動運転の安全規格 UL 4600
3-5　Automotive SPICE v4

４．AI搭載システムの品質・安全保証技術とそのポイント
4-1　AI搭載システムに対するテスト・検証手法
（１）従来開発とAI開発におけるテスト・検証手法の共通と差異
（２）AI向きのテスト手法
（３）性能評価
（４）使用実績評価
（５）机上分析検証
（６）シミュレーション
4-2　AIモデルの透明化技術
（１）説明可能なAI（XAI）
（２）説明可能なモデリングアプローチ
4-3　AI開発の透明化技術
（１）説明可能性の高いAIモデルワークフロー
（２）従来の品質説明技術を応用したAI学習プロセス
4-4　AI搭載システムの品質・安全保証のポイント
（１）AIの特性を正しく理解
（２）AIは特別ではない！ 従来の品質保証技術の基礎をおさえることの必要性
（３）検証の網羅性と効率化

【質疑応答】

公開セミナーの次回開催予定

開催日

【LIVE配信】2026/4/22（水） 10:30～16:30
【アーカイブ配信】4/23～5/7（何度でも受講可能）

開催場所

【WEB限定セミナー】※会社やご自宅でご受講下さい。

受講料

非会員： 55,000円 （本体価格：50,000円）
会員： 44,000円 （本体価格：40,000円）

会員（案内）登録していただいた場合、通常1名様申込で55,000円（税込）から

• 1名で申込の場合、44,000円（税込）へ割引になります。
• 2名同時申込で両名とも会員登録をしていただいた場合、
  55,000円（1名当たり 27,500円）（税込）です。

ライブ配信とアーカイブ配信（見逃し配信）両方の視聴を希望される場合は、会員価格で1名につき55,000円（税込）、2名同時申込で66,000円（税込）になります。メッセージ欄に「ライブとアーカイブ両方視聴」とご記入下さい。

※セミナー主催者の会員登録をご希望の方は、申込みフォームのメッセージ本文欄に「R&D支援センター会員登録希望」と記載してください。ご登録いただくと、今回のお申込みから会員受講料が適用されます。

※R&D支援センターの会員登録とは？
ご登録いただきますと、セミナーや書籍などの商品をご案内させていただきます。
すべて無料で年会費・更新料・登録費は一切かかりません。

LIVE配信のご案内

こちらをご参照ください

備考

• セミナー資料は開催前日までにお送りいたします。
  無断転載、二次利用や講義の録音、録画などの行為を固く禁じます。

お申し込み方法

★下のセミナー参加申込ボタンより、必要事項をご記入の上お申し込みください。

★【LIVE配信】、【アーカイブ配信】、【LIVEとアーカイブ両方視聴】のいずれかから、ご希望される受講形態をメッセージ欄に明記してください。