- 日時
- 2025年11月7日(金) 9:30~17:55
- 開催場所
- オンライン(Zoom Webinar)のみ
- 参加費
- 無料、事前の参加登録をお願いします
- 参加登録
- https://form2.jst.go.jp/s/trustworthy-ai2025
(登録〆切 2025年11月7日(金)17:00)
本研究領域では、人間中心のAI社会の実現に向け、現在のAI技術の限界を突破する次世代AI技術の基盤となる革新的な理論・技術の創出を目指します。従来のAI技術の単なる延長ではなく、現在のAI技術やAIシステムが持つ本質的な問題点に取組み、解くべき問題を新たな視点で概念化・定式化し、その解決を目指す挑戦的な研究を推進します。
プログラム
セッション1
- 9:30 ~ 9:40
- 研究総括 開会挨拶
- 9:40 ~ 10:15
- 五十川 麻理子 (慶應義塾大学)
個人特定に繋がりやすい情報を活用しない人物状態推定システムの構築
- 10:15 ~ 10:50
- 上原 一将 (豊橋技術科学大学)
ニューロインフォマティクス活用で紐解く信頼されるExplainable AI
- 10:50 ~ 11:25
- 岸田 昌子 (筑波大学)
リスク・アウェア制御理論の構築とその展開
休 憩 11:25 ~ 12:35
セッション2
- 特別講演
12:35 ~ 13:10 - 有村 博紀 (北海道大学)
「さきがけ「信頼されるAI」と私のさきがけ研究者時代(私の若いころと最近の話)」
- 13:10 ~ 13:45
- 櫻田 健 (京都大学)
シーンのプライバシーを自動保護する深層空間モデリング
- 13:45 ~ 14:20
- 酒見 悠介 (千葉工業大学)
脳型アナログ演算を支える数理モデリング
休 憩 14:20 ~ 14:35
セッション3
- 14:35 ~ 15:10
- 田中 一敏 (オムロンサイニックエックス(株))
簡単に使える柔軟マニピュレータの汎用技能獲得
- 15:10 ~ 15:45
- 富岡 洋一 (会津大学)
持続可能な高効率AIシステムの実現
- 15:45 ~ 16:20
- 二見 太 (大阪大学)
情報理論を用いた不確実性に関する学習理論の展開
休 憩 16:20 ~ 16:35
セッション4
- 16:35 ~ 17:10
- 村田 真悟 (慶應義塾大学)
脳の計算原理とプレイデータに基づく実世界ロボット学習
- 17:10 ~ 17:45
- 和賀 正樹 (京都大学)
品質保証と説明の両立による信頼できるAIの構築技術
- 17:45 ~ 17:55
- 研究総括 講評・閉会挨拶
特別講演者紹介
-
「さきがけ「信頼されるAI」と私のさきがけ研究者時代(私の若いころと最近の話)」
有村 博紀(北海道大学 大学院情報科学研究院 教授)
経歴
九州大学大学院総合理工学研究科修士課程修了。博士(理学)。九州工業、九州大学大学院を経て、2004年から現職。JSTさきがけ「信頼されるAIの基盤技術」研究総括。科研費特別推進研究代表者、文科省GCOEプログラム「知の創出を支える次世代IT基盤拠点」拠点リーダー、北海道大学知識メディアラボラトリー長、共同プログラム拠点リーダー、同大G-GoRE拠点長を歴任。日本学術会議会員。人工知能、データマイニング、機械学習、情報検索の研究に従事。電子情報通信学会、情報処理学会、人工知能学会、DBSJ、ACM、IEEE等の会員。
講演者紹介
-
「個人特定に繋がりやすい情報を活用しない人物状態推定システムの構築」
五十川 麻理子(慶應義塾大学 理工学部 准教授)
講演概要
あらゆる人が安心してAI社会の恩恵を受けられる社会の実現を目指し、「個人特定に繋がりやすい情報を活用しない、人物状態推定システムの構築」に取り組みます。具体的には、人の顔や衣服を含んだ画像情報や、ユーザの声色・会話内容等の個人が容易に特定可能な情報を活用せず、シルエット画像や、意味情報を含まない信号波等の「漏洩しても個人の特定に繋がりにくい計測情報」のみを入力とした人物状態推定技術を提案します。
-
「ニューロインフォマティクス活用で紐解く信頼されるExplainable AI」
上原 一将(豊橋技術科学大学 情報・知能工学系 准教授)
講演概要
ヒト認知運動課題で得られる神経・筋生体情報を利活用することで、(1) AIが導き出した行動課題成績の予測や判別に寄与する判断根拠を神経活動操作や仮想的生体信号操作等のニューロインフォマティクスを駆使して因果に基づくXAIの信頼性を検証する。(2) 将来的に人間-AI協調が必須な医療におけるXAI技術実装の実現を視野に入れ、臨床データを用いて検証することでXAIの社会浸透を目指す。
-
「リスク・アウェア制御理論の構築とその展開」
岸田 昌子(筑波大学 システム情報系 教授)
講演概要
セーフティ・クリティカルな動的システムの自動化が加速しており、多様な不確実性下でも高い信頼性を有する制御設計が必須です。しかし既存の制御理論は、不確実性への対処はある程度可能であるものの、稀な重大事故による損失を適切に考慮することはできません。本研究では、テール・リスクを定量化して制御設計に反映させることで損失を最小限に抑え、信頼性と安全性を確保するリスク・アウェア制御理論を構築します。
-
「シーンのプライバシーを自動保護する深層空間モデリング」
櫻田 健(京都大学 大学院情報科学研究科 准教授)
講演概要
カメラやレーザー等のセンサの種類に依存しない統一的な空間モデリング手法の構築と、その空間モデルに含まれるシーンのプライバシーやコンテンツを保護するための自動編集機能を実現します。本技術により、これまで難しかった空間モデルの公開と共有(オープンデータ化)を円滑に進め、自動運転やサービスロボット、XRなど空間データ基盤に基づく産業を後押しすることを目指します。
-
「脳型アナログ演算を支える数理モデリング」
酒見 悠介(千葉工業大学 数理工学研究センター 上席研究員)
講演概要
脳型ハードウェアは高いエネルギー効率と高い情報処理能力を両立する次世代コンピュータです。しかし、回路素子の非理想的特性やばらつき特性などのアナログ回路特有の問題により動作信頼性は低く、実用化は困難です。本研究課題では、脳の知見とデータ駆動モデリング技術を活用することで、デバイス・回路・アルゴリズムを融合した設計を可能にし、それにより高い信頼性で動作可能な脳型ハードウェアの構築を目指します。
-
「簡単に使える柔軟マニピュレータの汎用技能獲得」
田中 一敏(オムロンサイニックエックス(株) リサーチアドミニストレイティブディビジョン シニアリサーチャー)
講演概要
汎用技能を獲得するソフトロボットが、身体と物体に合う秩序立った運動を自ら発見し、運動の知識を汎化して応用するためには、物体操作の様々な運動を安全に試せる身体を有し、身体と物体に合う秩序立った運動を発見し、限られた試行から効率よく運動の知識を汎化する必要がある。このため本研究では、軽量小型柔軟アーム、物体特徴を表す秩序運動の生成法、試行効率の高い運動知識の汎化法を開発する。
-
「持続可能な高効率AIシステムの実現」
富岡 洋一(会津大学 コンピュータ理工学部 上級准教授)
講演概要
インフラ・医療などのミッションクリティカルシステムにおいて、AIの故障は人命に関わる深刻な誤作動を引き起こす可能性があり、AIの耐故障化が必要です。しかし、既存の耐故障化技術をAIシステムに適用した場合、面積、消費電力、コストを大きく増加させる問題があります。本研究では、突発的に発生した故障を検知し、十分な精度の認識を継続できる耐故障AIを低計算量、小面積で実現する技術を確立します。
-
「情報理論を用いた不確実性に関する学習理論の展開」
二見 太(大阪大学 大学院基礎工学研究科 講師)
講演概要
情報理論およびPACベイズ理論の融合により、具体的なアルゴリズムに依存して、深層ベイズ推論の予測能力と統計的不確実性を同時に評価できる新しい非漸近論的な学習理論の構築を目指します。またそれを活用することで、ユーザーのデータに対する仮定に柔軟に合わせて、不確実性の評価が可能な新しい深層ベイズのアルゴリズムやモデルを開発します。
-
「脳の計算原理とプレイデータに基づく実世界ロボット学習」
村田 真悟(慶應義塾大学 理工学部 准教授)
講演概要
人間の認知発達過程を参考にし、実世界環境におけるロボット学習を実現するために必要な計算原理とデータ取得法の確立を目指します。脳の情報理論として有力視されている自由エネルギー原理に基づく深層生成モデルを構築し、ロボットに実装します。効率性と多様性を備えたロボットのプレイデータを取得することで自己教師あり学習を行い、想定外の状況に対する適応能力や、未経験の目標に対する計画能力について検証します。
-
「品質保証と説明の両立による信頼できるAIの構築技術」
和賀 正樹(京都大学 大学院情報学研究科 助教)
講演概要
AI システムを信頼できるようにするためには、安全性、公平性、頑健性などの、システムの「正しさ」の保証とその説明が必要となります。本研究では AI システムの動作を説明する近似数理モデルの自動導出と、導出された数理モデルの数学的証明による正しさの保証を組み合わせることで、「正しさ」の保証と説明を両立する、信頼できる AI システムのための基盤技術を創出し、プロトタイプツールの実装を目指します。