情報・システム研究機構 国立情報学研究所,九州大学,科学技術振興機構(JST)

令和5年3月17日

情報・システム研究機構 国立情報学研究所
九州大学
科学技術振興機構(JST)

画像識別AIの誤識別リスクを効果的・効率的に低減する技術を開発

~自動運転システムにおける安全性ベンチマークにて効果を検証~

情報・システム研究機構 国立情報学研究所(NII、所長:喜連川 優、東京都千代田区)のアーキテクチャ科学研究系 准教授 石川 冬樹らの研究チームは、九州大学(九大、総長:石橋 達朗、福岡県福岡市)大学院 システム情報科学研究院 情報知能工学部門 准教授 馬 雷らの研究チームとともに、画像識別AIの誤識別に対するリスクを効果的・効率的に低減する技術を開発しました。本研究成果は、科学技術振興機構(JST、理事長:橋本 和仁、東京都千代田区)の未来社会創造事業 Engineerable AIプロジェクト(通称eAIプロジェクト、研究開発代表者:NII アーキテクチャ科学研究系 准教授 石川 冬樹)によるものです。

深層ニューラルネットワーク(以下DNN:Deep Neural Network)では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下(デグレ)を発生させる問題があります。

本プロジェクトでは、役割の異なる複数のDNN修正技術を組み合わせ、画像識別用DNNを狙い通りに修正する研究開発を進めてきました。具体的には、さまざまな誤識別を分類し、タイプごとの原因と修正方法を発見する技術(NII)、パラメーター修正と誤識別改善の履歴情報を利用することで修正による低下を抑制する技術(NII)、パラメーター値だけでなくDNNの基本構造自体も修正する技術(九大)などに取り組んできました。

自動運転AI向けの実験では、自動車企業などを交えて定めた安全性ベンチマークで評価を行い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認しました。

今後、開発した修正技術をフレームワークとして統合するとともに、自動運転の在り方に関するビジョンやポリシー、走行データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいきます。

NII、九大の研究成果は、それぞれ、ソフトウェアテストに関するフラッグシップ国際会議ICST 2023で2023年4月(アイルランド時間)、ソフトウェア解析に関するフラッグシップ国際会議SANER 2023で2023年3月23日(マカオ時間)、ソフトウェア工学に関するフラッグシップ雑誌TOSEMで2023年内に発表されます。

本研究開発は、科学技術振興機構 未来社会創造事業 サイバー世界とフィジカル世界を結ぶモデリングとAI 超スマート社会の実現領域「機械学習を用いたシステムの高品質化・実用化を加速する"Engineerable AI"技術の開発」プロジェクト(JPMJMI20B8)の一環で行われました。

<プレスリリース資料>

<発表・論文タイトル>

(NII)“Distributed Repair of Deep Neural Networks”

発表会議:The 16th IEEE International Conference on Software Testing,Verification and Validation(ICST 2023)

発表日:2023年4月16~20日(調整中) 口頭発表予定(アイルランド時間)

(九大)“ArchRepair : Block-Level Architecture-Oriented Repairing for Deep Neural Networks”

掲載誌:ACM Transactions on Software Engineering and Methodology(TOSEM)

発表日:2023年予定

(NII、富士通)“An Experience Report on Regression-Free Repair of Deep Neural Network Model”

発表会議:The 30th IEEE International Conference on Software Analysis,Evolution and Reengineering(SANER 2023,Industry Track)

発表日:2023年3月23日(木) 口頭発表予定(マカオ時間)

<お問い合わせ先>

(英文)“Techniques for Effectively and Efficiently Mitigating Risks by Misperception of Image Recognition AI:”

前に戻る