ポイント
- 画像の線や色、質感、概念などの視覚的な特徴を、人の脳信号から読み出す「脳信号翻訳機」を構築。
- この「脳信号翻訳機」を用いて、被験者が画像を心に思い浮かべた時の脳信号から視覚的特徴を割り出し、その特徴を捉えた自然な画像に徐々に近づくよう生成系AIに描画させることで、心に描いた画像を復元することに世界で初めて成功。
- 医療・福祉分野への応用が進むブレイン・マシン・インターフェース技術への貢献に期待。
量子科学技術研究開発機構(以下「QST」) 量子生命・医学部門 量子生命科学研究所 量子生命情報科学研究チームの間島 慶 研究員、情報通信研究機構(NICT) 未来ICT研究所の小出(間島) 真子 研究員、大阪大学 大学院生命機能研究科の西本 伸志 教授は、人が心の中で思い描いた任意の風景・物体などの「メンタルイメージ」を脳信号から読み出し、復元することに成功しました。
画像を実際に目で見ている人の脳の活動を機能的磁気共鳴画像法(fMRI)で計測し、その脳信号から見ている画像を復元できることは先行研究で示されています。しかし、メンタルイメージの復元は従来の方法では難しく、例えばアルファベットの文字や単純な幾何学図形など、限られた種類の画像でしか成功していませんでした。
これに対して研究チームは、目で見ている画像の復元に成功した既存の手法をベースにしながら、近年発展の目覚ましい生成系AIとベイズ推定、ランジュバン動力学法を組み合わせた新手法を開発しました。この手法を用いて、画像の種類を限定することなく、人が心の中に思い描いたイメージを復元することに世界で初めて成功しました。
本成果は、他者の心の中にある認知や意識を客観的・定量的に捉える手段を提供するものであり、将来的には「心とは何か」の理解への道を開くものと考えられます。また、メンタルイメージを用いた新たなコミュニケーションツール開発への応用や、本手法を利用したブレイン・マシン・インターフェース技術の開発と医療機器への展開が期待されます。
本研究は、2023年11月27日に神経科学・深層学習に関する論文が数多く発表されている国際誌「Neural Networks」にオンライン掲載されました。
本研究は、文部科学省 光・量子飛躍フラッグシッププログラム(Q-LEAP)(JPMXS0120330644)、科学研究費補助金 若手研究(20K16465)、科学技術振興機構(JST) さきがけ(JPMJPR2128)、CREST(JPMJCR18A5およびJPMJCR22P3)、ERATO(JPMJER1801)の支援を受けて行われました。
<プレスリリース資料>
- 本文 PDF(735KB)
- 補足資料(令和5年12月21日付け追加) PDF(230KB)
<論文タイトル>
- “Mental image reconstruction from human brain activity: Neural decoding of mental imagery via deep neural network-based Bayesian estimation”
- DOI:10.1016/j.neunet.2023.11.024
<お問い合わせ先>
-
<研究に関すること>
八幡 憲明(ヤハタ ノリアキ)
量子科学技術研究開発機構 量子生命科学研究所 量子生命情報科学研究チーム チームリーダー
Tel:043-206-4067
E-mail:iqls-infoqst.go.jp -
<JST事業に関すること>
前田 さち子(マエダ サチコ)
科学技術振興機構 戦略研究推進部 ICTグループ
〒102-0076 東京都千代田区五番町7 K’s五番町
Tel:03-3512-3526 Fax:03-3222-2066
E-mail:prestojst.go.jp今林 文枝(イマバヤシ フミエ)
科学技術振興機構 研究プロジェクト推進部 ICT/ライフイノベーショングループ
〒102-0076 東京都千代田区五番町7 K’s五番町
Tel:03-3512-3528 Fax:03-3222-2068
E-mail:eratowwwjst.go.jp -
<報道担当>
量子科学技術研究開発機構 経営企画部 広報課
Tel:043-206-3026
E-mail:infoqst.go.jp情報通信研究機構(NICT) 広報部 報道室
E-mail:publicitynict.go.jp
大阪大学 生命機能研究科 庶務係
Tel:06-6879-4692
E-mail:seimei-syomuoffice.osaka-u.ac.jp科学技術振興機構 広報課
〒102-8666 東京都千代田区四番町5番地3
Tel:03-5214-8404 Fax:03-5214-8432
E-mail:jstkohojst.go.jp