- 日時
- 2023年11月25日（土） 9:30～17:50 （9:15開場）
- 開催場所
- ハイブリッド開催：オンライン(Zoom Webinar) & AP市ヶ谷8階 Aルーム
- 参加費
- 無料、事前の参加登録をお願いします（現地参加は50名を想定）
- 参加登録
- https://form2.jst.go.jp/s/trustworthy-ai2023
（登録受付期間： 2023年10月26日〜11月25日 17:30）
本研究領域では、人間中心のAI社会の実現に向け、現在のAI技術の限界を突破する次世代AI技術の基盤となる革新的な理論・技術の創出を目指します。従来のAI技術の単なる延長ではなく、現在のAI技術やAIシステムが持つ本質的な問題点に取組み、解くべき問題を新たな視点で概念化・定式化し、その解決を目指す挑戦的な研究を推進します。
プログラム
- 開会挨拶
9:30～9:40 - 研究総括 有村 博紀 （北海道大学）
セッション1
- 9:40～11:25
- 五十嵐 歩美 （東京大学）
信頼される資源配分メカニズムの構築 - 栗田 修平 （理化学研究所）
与えられた指示文章に従い言語で判断を説明するAI - 小林 泰介 （国立情報学研究所）
頑健性と安全性の性能限界を明らかにする深層強化学習
休憩 11:25～12:25
セッション2
- 12:25～14:10
- 菅原 朔 （国立情報学研究所）
説明性の高い自然言語理解ベンチマークの構築 - 竹内 孝 （京都大学）
リライアブルな意思決定のための時空間因果推論モデルの研究 - 西田 知史 （情報通信研究機構）
脳情報に基づいたAIの信頼性評価技術の開発
休憩 14:10～14:30
セッション3
- 14:30～16:15
- 西野 正彬 （日本電信電話（株））
誤りがないことを保証する検証器つき機械学習の研究 - 原 聡 （大阪大学）
機械学習モデルとユーザのコミュニケーション：モデルの説明と修正 - 日高 昇平 （北陸先端科学技術大学院大学）
機械理解の創成に向けた随伴関手の統計的推定理論の構築
休憩 16:15～16:35
セッション4
- 総評
17:45～17:50 - 研究総括 有村 博紀 （北海道大学）
講演者紹介
-
「信頼される資源配分メカニズムの構築」
五十嵐 歩美 （東京大学）
講演概要
様々な意思決定の自動化に伴い、アルゴリズムの公平性・信頼性の担保が喫緊の課題となります。本研究の目的は、スケジューリングや査読割当てなど、配分する財の可分性が必ずしも仮定できない状況において、資源配分問題の理論的性質と解法について深く考察することです。本研究では、メカニズムの公平性・全体最適性・信頼性がどのような状況で保証できるのかを考察します。
-
「与えられた指示文章に従い言語で判断を説明するAI」
栗田 修平 （理化学研究所）
講演概要
深層学習モデルエージェントに言語による直感的な指示を与え、指示文章に従った複雑かつ体系的な動作を可能とする手法を探索いたします。特に、現実世界を模した環境で、エージェントに言語による多様で複雑な指示を理解させ、行動させることを目指します。動作から与えられた指示文章を予測することで、深層学習モデルの判断過程を指示文章に紐付いた形で可視化し、将来的な現実世界での言語理解技術につながる研究を目指します。
-
「頑健性と安全性の性能限界を明らかにする深層強化学習」
小林 泰介 （国立情報学研究所）
講演概要
頑健性と安全性を両立する深層強化学習を開発します。この基盤技術として、頑健性と安全性の定量評価が肝要となります。評価システムの礎として、新しいダイナミクスモデルの学習則と敵対的学習における正則化機構について開発を進め、単体レベルでの理論的・統計的な検証を行います。実問題として人とロボットが物理的接触を図るような実問題を例に検証を進め、理論面・実用面の双方から提案技術を検証します。
-
「説明性の高い自然言語理解ベンチマークの構築」
菅原 朔 （国立情報学研究所）
講演概要
正答に必要な能力がラベル付けされた言語理解データセットを構築し、システムの性能について言語理解の観点から説明性の高い精緻な評価を可能にします。ここで能力は自然言語処理で存立している基礎技術（照応解析・意味役割解析等）を単位とし、問題の作成にあたり自然言語の形式表現体系を利用します。このテストの応用により、実世界における言語理解システムの説明性・頑健性の向上が期待されます。
-
「リライアブルな意思決定のための時空間因果推論モデルの研究」
竹内 孝 （京都大学）
講演概要
すべてのIoTシステムから計測される、膨大な時空間データを社会での意思決定に結びつけるためのAIシステムにおいて、将来の基盤となる技術であるリライアブルな意思決定のための時空間因果推論モデルの研究を行う。具体的には、偏りを持つ時空間データから、バイアスが除去され信頼性の高い予測を行う技術の実現を目指し、時空間データ解析技術と因果推論技術を組み合わせた新たな機械学習モデルを開発する。
-
「脳情報に基づいたAIの信頼性評価技術の開発」
西田 知史 （情報通信研究機構）
講演概要
AIに対する人間の主観的信頼性を生み出す脳内メカニズムを世界で初めて解明し、それに基づいて主観的信頼性を脳活動から解読してAIの評価に利用するための技術を開発する。また、研究者が開発した、シミュレートした脳活動を解読する独自手法を融合し、従来技術に対する脳解読の優位性を保ったまま、脳計測コストの劇的な削減を実現して、正確性と利便性を両立する革新的な主観的信頼性の評価技術へと拡張する。
-
「誤りがないことを保証する検証器つき機械学習の研究」
西野 正彬 （日本電信電話（株））
講演概要
確率統計に基づいた機械学習モデルの予測誤りをなくすことは本質的に困難です。そのため、機械学習モデルを利用するAIシステムを構築する際には、予測誤りに対処するために多大なコストをかける必要がありました。一方、ある種の予測誤りについてはその有無を外部から検証することができます。本研究では。そのような検証可能な誤りが存在しないことを保証するための，検証器つき機械学習モデルの実現を目指します。
-
「機械学習モデルとユーザのコミュニケーション：モデルの説明と修正」
原 聡 （大阪大学）
講演概要
モデルの“説明”・“修理”に対して「データに基づくアプローチ」に着目する。このアプローチはデータの専門知識を有するユーザと親和性が高く、今後様々な分野のデータの専門家が機械学習モデルを扱うにあたって特に効果的だと期待できる。本研究では“説明”・“修理”のために「データAがデータBの予測に関連している/有害である」といったデータ間の関連性を定量化する関連性指標の設計・原理解明・妥当性検証に取り組む。
-
「機械理解の創成に向けた随伴関手の統計的推定理論の構築」
日高 昇平 （北陸先端科学技術大学院大学）
講演概要
本研究は、再現性と検証可能性をもち、見方・解釈に伴ってその意味付けが変わる認知現象の一つとして、曖昧図形の知覚に着目する。解釈・理解を圏、データの解釈への対応づけを関手とする「随伴関手の統計的推定」モデルにより、曖昧図形の知覚の数理構造を説明し、これを実験的に検証する。この研究の過程で新たに生まれる、圏論を基礎とした情報技術・統計的モデリングを概念実証として、「機械理解」分野創生の基礎を構築する。
-
「生物集団移動の専門家が利用可能な説明・意思決定のための基盤技術」
藤井 慶輔 （名古屋大学）
講演概要
計測技術の発展によって様々な生物や人工物の集団移動の記録が可能になり、これを背景に様々な社会や科学分野への貢献が期待されています。しかし、情報技術の利用が想定される実環境での集団運動の専門家、例えば生物学の研究者やスポーツチームの監督等にとって説明・操作・意思決定が難しい場合があります。本研究では、実環境での集団移動の専門家が説明・操作・発見・検証・意思決定可能な人工知能基盤技術を開発します。
-
「人とAIの同化に基づく能力拡張型音楽理解・創作基盤」
吉井 和佳 （京都大学）
講演概要
信頼される音楽AIを実現するため、(1) 信号から記号への変換技術（マルチタスク学習に基づく半教師あり自動採譜）、(2) 音楽知識の記号表現技術（自己相似性に基づく教師なし音楽文法獲得）、(3) 協調的な記号操作技術（データ同化に基づく半教師あり音楽生成）の実現に取り組みます。