情報・システム研究機構 国立情報学研究所,九州大学,科学技術振興機構（ＪＳＴ）

令和５年３月１７日

情報・システム研究機構 国立情報学研究所
九州大学
科学技術振興機構（ＪＳＴ）

画像識別ＡＩの誤識別リスクを効果的・効率的に低減する技術を開発

～自動運転システムにおける安全性ベンチマークにて効果を検証～

情報・システム研究機構 国立情報学研究所（ＮＩＩ、所長：喜連川 優、東京都千代田区）のアーキテクチャ科学研究系 准教授 石川 冬樹らの研究チームは、九州大学（九大、総長：石橋 達朗、福岡県福岡市）大学院 システム情報科学研究院 情報知能工学部門 准教授 馬 雷らの研究チームとともに、画像識別ＡＩの誤識別に対するリスクを効果的・効率的に低減する技術を開発しました。本研究成果は、科学技術振興機構（ＪＳＴ、理事長：橋本 和仁、東京都千代田区）の未来社会創造事業 Ｅｎｇｉｎｅｅｒａｂｌｅ ＡＩプロジェクト（通称ｅＡＩプロジェクト、研究開発代表者：ＮＩＩ アーキテクチャ科学研究系 准教授 石川 冬樹）によるものです。

深層ニューラルネットワーク（以下ＤＮＮ：Ｄｅｅｐ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下（デグレ）を発生させる問題があります。

本プロジェクトでは、役割の異なる複数のＤＮＮ修正技術を組み合わせ、画像識別用ＤＮＮを狙い通りに修正する研究開発を進めてきました。具体的には、さまざまな誤識別を分類し、タイプごとの原因と修正方法を発見する技術（ＮＩＩ）、パラメーター修正と誤識別改善の履歴情報を利用することで修正による低下を抑制する技術（ＮＩＩ）、パラメーター値だけでなくＤＮＮの基本構造自体も修正する技術（九大）などに取り組んできました。

自動運転ＡＩ向けの実験では、自動車企業などを交えて定めた安全性ベンチマークで評価を行い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認しました。

今後、開発した修正技術をフレームワークとして統合するとともに、自動運転の在り方に関するビジョンやポリシー、走行データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいきます。

ＮＩＩ、九大の研究成果は、それぞれ、ソフトウェアテストに関するフラッグシップ国際会議ＩＣＳＴ ２０２３で２０２３年４月（アイルランド時間）、ソフトウェア解析に関するフラッグシップ国際会議ＳＡＮＥＲ ２０２３で２０２３年３月２３日（マカオ時間）、ソフトウェア工学に関するフラッグシップ雑誌ＴＯＳＥＭで２０２３年内に発表されます。

本研究開発は、科学技術振興機構 未来社会創造事業 サイバー世界とフィジカル世界を結ぶモデリングとＡＩ 超スマート社会の実現領域「機械学習を用いたシステムの高品質化・実用化を加速する＂Ｅｎｇｉｎｅｅｒａｂｌｅ ＡＩ＂技術の開発」プロジェクト（ＪＰＭＪＭＩ２０Ｂ８）の一環で行われました。

＜プレスリリース資料＞

＜発表・論文タイトル＞

（ＮＩＩ）“Distributed Repair of Deep Neural Networks”

発表会議：Ｔｈｅ １６ｔｈ ＩＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｓｏｆｔｗａｒｅ Ｔｅｓｔｉｎｇ，Ｖｅｒｉｆｉｃａｔｉｏｎ ａｎｄ Ｖａｌｉｄａｔｉｏｎ（ＩＣＳＴ ２０２３）

発表日：２０２３年４月１６～２０日（調整中）　口頭発表予定（アイルランド時間）

（九大）“ArchRepair : Block-Level Architecture-Oriented Repairing for Deep Neural Networks”

掲載誌：ＡＣＭ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｓｏｆｔｗａｒｅ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ｍｅｔｈｏｄｏｌｏｇｙ（ＴＯＳＥＭ）

発表日：２０２３年予定

（ＮＩＩ、富士通）“An Experience Report on Regression-Free Repair of Deep Neural Network Model”

発表会議：Ｔｈｅ ３０ｔｈ ＩＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｓｏｆｔｗａｒｅ Ａｎａｌｙｓｉｓ，Ｅｖｏｌｕｔｉｏｎ ａｎｄ Ｒｅｅｎｇｉｎｅｅｒｉｎｇ（ＳＡＮＥＲ ２０２３，Ｉｎｄｕｓｔｒｙ Ｔｒａｃｋ）

発表日：２０２３年３月２３日（木）　口頭発表予定（マカオ時間）

＜お問い合わせ先＞

（英文）“Techniques for Effectively and Efficiently Mitigating Risks by Misperception of Image Recognition AI:”

前に戻る