研究開発構想（個別研究型）
人工知能（AI）が浸透するデータ駆動型の経済社会に必要なAIセキュリティ技術の確立
プログラム・オフィサー （PO） ：松本 勉（産業技術総合研究所 フェロー）
副プログラム・オフィサー（副PO）：高橋 克巳（ＮＴＴ株式会社 社会情報研究所 主席研究員）
【 公募枠：（１）一般研究開発 】
| 研究開発課題名 |
AIハードウェアセキュリティ基盤技術の開発 |
| 研究代表者 |
本間 尚文 |
| 研究代表機関・役職 |
東北大学 電気通信研究所 教授 |
| 研究開発概要 |
本研究開発では、「AI for Security」時代におけるサイバーフィジカルシステムの耐タンパー性（物理的アクセスを伴う“物理攻撃”に耐える性質）の実装技術の確立を目指し、機械学習に基づく物理攻撃（AI物理攻撃）の技術を探求するとともに、同攻撃への対策技術の研究開発を推進します。特に、物理攻撃のフロントエンド（物理計測・前処理など）とバックエンド（データ解析など）にそれぞれ機械学習を利用する攻撃およびそれらを融合させた攻撃に関する知識・技術体系を整理し、その攻撃および防御理論を構築します。 |
| 研究開発課題名 |
高機密・頑健性スモールデータ連合学習の確立と医療AIでの実証（仮称） |
| 研究代表者 |
鈴木 賢治 |
| 研究代表機関・役職 |
東京科学大学 総合研究院 教授 |
| 研究開発概要 |
本研究開発では、大量データと大規模計算資源を必要とする連合学習の課題解決に向け、100例以下の少数データで学習が可能でありモデル規模も極小の独自の「スモールデータ深層学習」と連合学習を融合した「スモールデータ連合学習」を確立します。また、プライバシー保護の観点から、病院外への症例データの持ち出しが難しい医療分野において、スモールデータ連合学習の利用により、患者データを持ち出すことなくデータ機密性を保ったまま、希少疾患や主要疾患を網羅する安全性と有効性が高い診断支援AIの構築を実証します。 |
| 研究開発課題名 |
異常トラフィック検知のためのセキュアな連合学習基盤の研究開発（仮称） |
| 研究代表者 |
塩本 公平 |
| 研究代表機関・役職 |
東京都市大学 情報工学部 教授 |
| 研究開発概要 |
本研究開発では、準同型暗号と連合学習を用いた深層学習モデルの基盤構築に取り組みます。連合学習では、交換される勾配情報から元のデータが漏えいするリスクが示唆されていますが、これを防ぐため、準同型暗号を用いてデータを暗号化したままモデル更新を行う方法を研究します。また、準同型暗号を用いた連合学習において生じる、秘密鍵の権限の所有者への集中といった課題の解決にも取り組みます。さらに、本研究で構築する深層学習モデルの基盤アーキテクチャを、そのユースケースとして、通信網の異常トラフィック検知に応用し、通信事業者間でデータを交換せずに高精度な深層学習モデルを構築します。 |
※研究開発課題名は調整により変更になることがあります。
【 公募枠：（２）データ基盤構築支援型研究開発 】
| 研究開発課題名 |
SYNTHETIQ X：フェイク情報拡散の防御と予防を実現する研究基盤 |
| 研究代表者 |
越前 功 |
| 研究代表機関・役職 |
国立情報学研究所 情報社会相関研究系 教授 |
| 研究開発概要 |
本研究開発では、画像・映像、音声、テキストといった単一のモダリティ（データの種別）によるユニモーダルメディアに加えて、複数のモダリティで構成されたマルチモーダルメディアを対象に、フェイク情報拡散の防御技術と予防技術を確立します。さらに、リアル情報とフェイク情報からなる大規模データセットと多数の生成・防御・予防モデルで構成された、フェイク情報の生成とその防御・予防という攻防の実践に適したフェイク情報研究基盤（SYNTHETIQ X）を構築します。 |
| 研究開発課題名 |
大規模言語モデルのミスアライメントに対するレッドチーミング基盤 |
| 研究代表者 |
佐久間 淳 |
| 研究代表機関・役職 |
東京科学大学 情報理工学院 教授 |
| 研究開発概要 |
本研究開発は、大規模生成モデルの生成コンテンツのミスアライメント（人間の期待や倫理観から外れた挙動）を検出し、これを軽減・抑制するためのセキュリティ技術基盤の構築を目的としています。大規模生成モデルの利用においては、その生成コンテンツに有害情報・偽情報・差別的内容が含まれていたり、その生成コンテンツによって機密漏えい 、プライバシー侵害、著作権侵害などが発生したりする可能性があり、このようなミスアライメントへの対策が不可欠です。一般の開発者が外部から入手した大規模生成モデルをそのまま利用したり、これを手元のデータで改変して利用したりする状況では、このようなミスアライメントのリスクを独力で評価することは簡単ではありません。本研究開発では、生成モデルのこのようなミスアライメントに関するリスクの評価を支援するための技術基盤を提供し、ミスアライメントの抑制につなげます。 |
【 公募枠：（３）知識・技術の体系化研究 】
| 研究開発課題名 |
安心安全なAI利活用の為の知識・技術の体系化と知識集約環境構築 |
| 研究代表者 |
披田野 清良 |
| 研究代表機関・役職 |
株式会社KDDI総合研究所 セキュリティ部門 エキスパート |
| 研究開発概要 |
本研究開発では、AIセキュリティを社会に普及させる ことを目的とし、最新動向に配慮しながらAIセキュリティに関する知識・技術を網羅的に体系化します。また、体系化された知識に基づき論文や記事などの文献を効率的に収集・分類し、注意喚起や対策の普及啓発を効果的に行うための知識集約環境を構築します。本研究開発では、実際に構築した知識集約環境を利用してAIセキュリティに関する情報を発信しながら、その効果を実証します。 |
採択に関するお問い合わせ
国立研究開発法人科学技術振興機構 先端重要技術育成推進部
公募担当 E-mail： k-program
jst.go.jp
課題情報