課題情報

領域【領域横断・サイバー空間・バイオ】

研究開発構想（個別研究型）

人工知能（AI）が浸透するデータ駆動型の経済社会に必要なAIセキュリティ技術の確立

プログラム・オフィサー（PO）：松本勉（産業技術総合研究所フェロー）

【公募枠：（１）一般研究開発】

研究開発課題名	AIハードウェアセキュリティ基盤技術の開発
研究代表者	本間　尚文
研究代表機関・役職	東北大学電気通信研究所　教授
研究開発概要	本研究開発では、「AI for Security」時代におけるサイバーフィジカルシステムの耐タンパー性（物理的アクセスを伴う“物理攻撃”に耐える性質）の実装技術の確立を目指し、機械学習に基づく物理攻撃（AI物理攻撃）の技術を探求するとともに、同攻撃への対策技術の研究開発を推進します。特に、物理攻撃のフロントエンド（物理計測・前処理など）とバックエンド（データ解析など）にそれぞれ機械学習を利用する攻撃およびそれらを融合させた攻撃に関する知識・技術体系を整理し、その攻撃および防御理論を構築します。

【公募枠：（２）データ基盤構築支援型研究開発】

研究開発課題名	SYNTHETIQ X：フェイク情報拡散の防御と予防を実現する研究基盤
研究代表者	越前　功
研究代表機関・役職	国立情報学研究所情報社会相関研究系　教授
研究開発概要	本研究開発では、画像・映像、音声、テキストといった単一のモダリティ（データの種別）によるユニモーダルメディアに加えて、複数のモダリティで構成されたマルチモーダルメディアを対象に、フェイク情報拡散の防御技術と予防技術を確立します。さらに、リアル情報とフェイク情報からなる大規模データセットと多数の生成・防御・予防モデルで構成された、フェイク情報の生成とその防御・予防という攻防の実践に適したフェイク情報研究基盤（SYNTHETIQ X）を構築します。

研究開発課題名	大規模言語モデルのミスアライメントに対するレッドチーミング基盤
研究代表者	佐久間　淳
研究代表機関・役職	東京科学大学情報理工学院　教授
研究開発概要	本研究開発は、大規模生成モデルの生成コンテンツのミスアライメント（人間の期待や倫理観から外れた挙動）を検出し、これを軽減・抑制するためのセキュリティ技術基盤の構築を目的としています。大規模生成モデルの利用においては、その生成コンテンツに有害情報・偽情報・差別的内容が含まれていたり、その生成コンテンツによって機密漏えい、プライバシー侵害、著作権侵害などが発生したりする可能性があり、このようなミスアライメントへの対策が不可欠です。一般の開発者が外部から入手した大規模生成モデルをそのまま利用したり、これを手元のデータで改変して利用したりする状況では、このようなミスアライメントのリスクを独力で評価することは簡単ではありません。本研究開発では、生成モデルのこのようなミスアライメントに関するリスクの評価を支援するための技術基盤を提供し、ミスアライメントの抑制につなげます。

【公募枠：（３）知識・技術の体系化研究】

研究開発課題名	安心安全なAI利活用の為の知識・技術の体系化と知識集約環境構築
研究代表者	披田野　清良
研究代表機関・役職	株式会社KDDI総合研究所セキュリティ部門　エキスパート
研究開発概要	本研究開発では、AIセキュリティを社会に普及させることを目的とし、最新動向に配慮しながらAIセキュリティに関する知識・技術を網羅的に体系化します。また、体系化された知識に基づき論文や記事などの文献を効率的に収集・分類し、注意喚起や対策の普及啓発を効果的に行うための知識集約環境を構築します。本研究開発では、実際に構築した知識集約環境を利用してAIセキュリティに関する情報を発信しながら、その効果を実証します。

※研究開発課題名は調整により変更になることがあります。

本研究開発構想の評価者は、現在募集・選考を行っている二次募集の採択課題決定とあわせて公表いたします。

国立研究開発法人科学技術振興機構　先端重要技術育成推進部
公募担当　E-mail： k-programjst.go.jp