[信頼されるAI] 2020年度採択課題

五十嵐 歩美

信頼される資源配分メカニズムの構築

研究者
五十嵐 歩美

情報・システム研究機構
国立情報学研究所
助教

研究概要

様々な意思決定の自動化に伴い, アルゴリズムの公平性・信頼性の担保が喫緊の課題となります. 本研究の目的は,スケジューリングや査読割当てなど、配分する財の可分性が必ずしも仮定できない状況において, 資源配分問題の理論的性質と解法について深く考察することです. 本研究では, メカニズムの公平性・全体最適性・信頼性がどのような状況で保証できるのかを考察します.

栗田 修平

与えられた指示文章に従い言語で判断を説明するAI

研究者
栗田 修平

理化学研究所
革新知能統合研究センター
特別研究員

研究概要

深層学習モデルエージェントに言語による直感的な指示を与え,指示文章に従った複雑かつ体系的な動作を可能とする手法を探索いたします.特に,現実世界を模した環境で,エージェントに言語による多様で複雑な指示を理解させ,行動させることを目指します.動作から与えられた指示文章を予測することで,深層学習モデルの判断過程を指示文章に紐付いた形で可視化し,将来的な現実世界での言語理解技術につながる研究を目指します.

小林 泰介

頑健性と安全性の性能限界を明らかにする深層強化学習

研究者
小林 泰介

情報・システム研究機構
国立情報学研究所
助教

研究概要

頑健性と安全性を両立する深層強化学習を開発します。この基盤技術として、頑健性と安全性の定量評価が肝要となります。評価システムの礎として、新しいダイナミクスモデルの学習則と敵対的学習における正則化機構について開発を進め、単体レベルでの理論的・統計的な検証を行います。実問題として人とロボットが物理的接触を図るような実問題を例に検証を進め、理論面・実用面の双方から提案技術を検証します。

菅原 朔

説明性の高い自然言語理解ベンチマークの構築

研究者
菅原 朔

情報・システム研究機構
国立情報学研究所
助教

研究概要

正答に必要な能力がラベル付けされた言語理解データセットを構築し、システムの性能について言語理解の観点から説明性の高い精緻な評価を可能にします。ここで能力は自然言語処理で存立している基礎技術(照応解析・意味役割解析等)を単位とし、問題の作成にあたり自然言語の形式表現体系を利用します。このテストの応用により、実世界における言語理解システムの説明性・頑健性の向上が期待されます。

竹内 孝

リライアブルな意思決定のための時空間因果推論モデルの研究

研究者
竹内 孝

京都大学
大学院情報学研究科
助教

研究概要

複数の異種低解像度時空間データから高解像度時空間データを推定するための時空間超解像技術を新たに開発する。多くの時空間データは、コストや物理制約のためスパースかつ低解像度となる。本研究では、低解像度データからでも、時空間予測や潜在パターン抽出などの時空間データ分析を実現可能とするための技術開発を実施し、省コスト・省エネルギーなシステムで観測された低解像度時空間データの有効性を高めることを目的とする。

西田 知史

脳情報に基づいたAIの信頼性評価技術の開発

研究者
西田 知史

情報通信研究機構
脳情報通信融合研究センター
主任研究員

研究概要

AIに対する人間の主観的信頼性を生み出す脳内メカニズムを世界で初めて解明し、それに基づいて主観的信頼性を脳活動から解読してAIの評価に利用するための技術を開発する。また、研究者が開発した、シミュレートした脳活動を解読する独自手法を融合し、従来技術に対する脳解読の優位性を保ったまま、脳計測コストの劇的な削減を実現して、正確性と利便性を両立する革新的な主観的信頼性の評価技術へと拡張する。

西野 正彬

誤りがないことを保証する検証器つき機械学習の研究

研究者
西野 正彬

日本電信電話(株)
NTTコミュニケーション科学基礎研究所
特別研究員

研究概要

確率統計に基づいた機械学習モデルの予測誤りをなくすことは本質的に困難です。そのため、機械学習モデルを利用するAIシステムを構築する際には、予測誤りに対処するために多大なコストをかける必要がありました。一方、ある種の予測誤りについてはその有無を外部から検証することができます。本研究では。そのような検証可能な誤りが存在しないことを保証するための,検証器つき機械学習モデルの実現を目指します。

原 聡

機械学習モデルとユーザのコミュニケーション:モデルの説明と修正

研究者
原 聡

大阪大学
産業科学研究所
准教授

研究概要

モデルの“説明”・“修理”に対して「データに基づくアプローチ」に着目する。このアプローチはデータの専門知識を有するユーザと親和性が高く、今後様々な分野のデータの専門家が機械学習モデルを扱うにあたって特に効果的だと期待できる。本研究では“説明”・“修理”のために「データAがデータBの予測に関連している/有害である」といったデータ間の関連性を定量化する関連性指標の設計・原理解明・妥当性検証に取り組む。

日高 昇平

機械理解の創成に向けた随伴関手の統計的推定理論の構築

研究者
日高 昇平

北陸先端科学技術大学院大学
先端科学技術研究科
准教授

研究概要

本研究は、再現性と検証可能性をもち、見方・解釈に伴ってその意味付けが変わる認知現象の一つとして、曖昧図形の知覚に着目する。解釈・理解を圏、データの解釈への対応づけを関手とする「随伴関手の統計的推定」モデルにより、曖昧図形の知覚の数理構造を説明し、これを実験的に検証する。この研究の過程で新たに生まれる、圏論を基礎とした情報技術・統計的モデリングを概念実証として、「機械理解」分野創生の基礎を構築する。

藤井 慶輔

生物集団移動の専門家が利用可能な説明・意思決定のための基盤技術

研究者
藤井 慶輔

名古屋大学
大学院情報学研究科
准教授

研究概要

計測技術の発展によって様々な生物や人工物の集団移動の記録が可能になり、これを背景に様々な社会や科学分野への貢献が期待されています。しかし、情報技術の利用が想定される実環境での集団運動の専門家、例えば生物学の研究者やスポーツチームの監督等にとって説明・操作・意思決定が難しい場合があります。本研究では、実環境での集団移動の専門家が説明・操作・発見・検証・意思決定可能な人工知能基盤技術を開発します。

吉井 和佳

人とAIの同化に基づく能力拡張型音楽理解・創作基盤

研究者
吉井 和佳

京都大学
大学院情報学研究科
准教授

研究概要

信頼される音楽AIを実現するため、(1) 信号から記号への変換技術(マルチタスク学習に基づく半教師あり自動採譜)、(2) 音楽知識の記号表現技術(自己相似性に基づく教師なし音楽文法獲得)、(3) 協調的な記号操作技術(データ同化に基づく半教師あり音楽生成)の実現に取り組みます。

プログラム

  • CREST
  • さきがけ
  • ACT-I
  • ERATO
  • ACT-X
  • ACCEL
  • ALCA
  • RISTEX
  • AI時代と科学研究の今
  • AIPネットワークラボ
  • JSTプロジェクトDB
  • 終了事業アーカイブズ
  • ご意見・ご要望