[信頼されるAIシステム]信頼されるAIシステムを支える基盤技術

戦略目標

信頼されるAI

研究総括

pic

相澤 彰子(情報・システム研究機構 国立情報学研究所 コンテンツ科学研究系 教授)

概要

 実社会での応用・実用化が急速に広がる人工知能(AI)技術は、新たな科学的・社会的・経済的価値を創出していく上で不可欠です。一方で、深層学習をはじめとする機械学習技術はブラックボックス問題やバイアス問題等の信頼性や安全性に関わる様々な課題を抱えており、その対策が喫緊の課題となっています。
そこで本研究領域は、人間が社会の中で幅広く安心して利用できる「信頼される高品質なAI」の実現につながる基盤技術の創出やそれらを活用したAIシステムの構築を行います。研究にあたっては、人間中心のAIシステムに関する信頼性や安全性等の定義や評価法の検討に取り組み、AIシステム全体としてその要求や要件を満たす技術の確立を目指します。
具体的には、以下の研究開発に取り組みます。
(1)「信頼されるAI」の実現に向けた発展的・革新的なAI新技術
(2)AIシステムに社会が期待する信頼性・安全性を確保する技術
(3)人間中心のAI社会に向けたデータの信頼性確保及び人間の主体的な意思決定支援技術
 上記により、社会的課題の解決や新たなサイエンス、価値の創造につなげるとともに、信頼されるAIに関連した新たな研究コミュニティの創成やAI研究における日本のプレゼンスの向上を目指します。
なお、本研究領域は文部科学省の人工知能/ビッグデータ/IoT/サイバーセキュリティ統合プロジェクト(AIPプロジェクト)の一環として運営します。

 本研究領域は、文部科学省の選定した戦略目標「信頼されるAI」のもとに、2020年度に発足しました。

領域アドバイザー

岡田 浩之 玉川大学 工学部 教授
奥村 学 東京工業大学 科学技術創成研究院 教授
神嶌 敏弘 産業技術総合研究所 主任研究員
佐藤 洋一 東京大学 生産技術研究所 教授
辻 ゆかり 日本電信電話(株) 研究開発担当役員  情報ネットワーク総合研究所 所長
福田 雅樹 大阪大学 社会技術共創研究センター 教授
福水 健次 統計数理研究所 数理・推論研究系 教授
村上 祐子 立教大学 大学院人工知能科学研究科 教授
盛合 志帆 情報通信研究機構 サイバーセキュリティ研究所 研究所長
横尾 真 九州大学 大学院システム情報科学研究院 主幹教授
若宮 直紀 大阪大学 大学院情報科学研究科 教授
鷲崎 弘宜 早稲田大学 理工学術院基幹理工学部 教授

採択課題一覧

  1. 2020年度採択課題
  2. 2021年度採択課題
  3. 2022年度採択課題

プログラム

  • CREST
  • さきがけ
  • ACT-I
  • ERATO
  • ACT-X
  • ACCEL
  • ALCA
  • RISTEX
  • AIPネットワークラボ
  • 終了事業アーカイブズ
  • ご意見・ご要望