AI・CPSソフトウェアの品質保証に関する研究

概要

近年のIoTやAIの発展により、ソフトウェアが安全や信頼性に関する判断をす る場面はますます増加しています。このような状況のなかで、従来型のいわゆ る「V字開発」を基本として想定したソフトウェア品質保証手法には大きく2つ の問題があります。その1つは、サイバーフィジカルシステム特有のオープン な外部環境での「すべてのリスク」の列挙・分析の困難さであり、人工知能に おけるフレーム問題とも関連します。またもう1つは、機械学習などの人工知 能技術によるプログラム構築手法が、これまでのソフトウェア工学の前提としていた 仕様からの構成的なシステム構築と大きく性格を異にすることです。 これらのギャップは、実社会の安全やセキュリティへの懸念を生むとともに、 これらの新しい技術を利用したソフトウェア製品の普及への障害も生ま れています。

このような問題を解決するために、サイバーフィジカルシステム のセキュリティ保護のために不可欠な、ソフトウェアシステムの品質保証のた めに必要なプロセス管理技術・システム分析・解析技術や、そのために必要な プログラム解析・形式検証・機械学習技術などの基盤技術の研究開発を行います。

研究内容

本プロジェクトでは、4段階に渡って研究開発を進めます。

項目1: 品質要件の明確化と品質保証エコシステム

産業現場においてAI利用製品に必要とされるソフトウェア品質を特定し、 受発注者間・販売者利用者間などの合意形成を行うための 品質要件の明確化と、レベル分け基準を検討します。 さらに、それぞれのレベル分けごとに必要となる品質目標を特定し、 それを達成し確認するための具体的な実装プロセスのガイドラインを策定します。

現在、各民間企業の有識者・研究者各位にご協力いただき、 「機械学習品質マネージメント検討委員会」において ガイドラインの方向性の検討を行っています。

項目2: AI品質を管理し担保するソフトウェア開発技術

主に現存する技術やその改良で、直近で必要となるAI利用製品の 品質を実装時・検査時・実用時それぞれで管理し担保する技術を研究します。 この段階では、ある程度AIの性能を犠牲にしてでも、 現実に利用可能な短期的ソリューションに注力します。

項目3: 高品質AIシステムのためのAI基礎技術の研究開発

上と同時に、中長期的観点から、AIの性能を最大限に引き出しつつ 安定性や信頼性・安全性などと両立させるような、 人工知能技術そのものの開発を並行して行います。

項目4: 製品レベルでの品質保証実証研究

民間企業と協力し、製品分野ごとにグランドチャレンジを設定し、 分野ごとの具体的基準の検討や、実践的な品質保証プロセスの試行などを、 実際の製品開発事例などを適用しつつ行います。

研究体制

この研究は、産総研サイバーフィジカルセキュリティ研究センターと、 ]人工知能研究センター、 ロボットイノベーション研究センター、 国立情報学研究所 との共同研究プロジェクトです。

このプロジェクトは、新エネルギー・産業技術総合開発機構 (NEDO) からの研究助成を受けています。

リンク