成果概要

身体的能力と知覚能力の拡張による身体の制約からの解放2. IoBミドルウェア開発

2022年度までの進捗状況

1.概要

身体の不自由な方々が望む通りの支援を受けられるAI支援型 Trusted BMI-CA*の構築のためには、脳や身体から CA へ情報を伝達する技術の開発が必要です。また、伝達された情報に基づいてユーザーの望む通りの支援を行えるようなCAの技術開発も欠かせません。「IoBミドルウェア開発」はこれらの「脳とCAの間の通信技術」の開発に向けて、機械学習や情報理論などの数理的手法を用いて取り組んでいます。

*AI支援型BMI-CA:AIの機械学習によって、異種BMIの組み合わせに応じて、利用者が頭に思い浮かべた言葉や行動を高精度に解読できるCybernetic Avatar(CA)

「IoB ミドルウェア開発」では、発話意図を読み取って意思疎通を代替する技術から、想起したイメージや身体操作、認知的な負荷や疲労といった言語での伝達が行いにくい情報のコミュニケーションまで、多様な通信ニーズを支援するBMI技術の開発を目指しています。

2.2022年度までの成果

【ChatGPT支援型Brain-Gmail Interface】

生成AIは、近年目覚ましい発展を遂げております。生成AIは、与えられた答えから選択するのでなく、自ら答えを生成できるAIであるため、BMIと融合させることでユーザーの機能を拡張することが期待されます。株式会社アラヤの笹井俊太朗CROらのグループは、ユーザーとの対話を通して文章を生成できるAIであるChatGPTを援用することで、脳計測によってE-mailの返信を行うことができるBMIシステムの構築に成功しました。このシステムは、ユーザーが発話した色を脳活動から解読し、それに基づいてGmailなど、E-mailのweb interfaceを操作できます。さらに、受信したメールの内容や過去の返信履歴からChatGPTが自動で返信の候補を生成し、その候補の中から所望の返信を選択することによって、半自動的なE-mailの返信を可能にしました。

【言語入力によるロボットアームの自動制御】

株式会社アラヤの笹井俊太朗CRO、Kai Arulkumaranチームリーダーにより、脳活動から解読された言語に基づいて、ロボットアームを半自動的に操作してタスクを遂行することができる、AI支援型BMIの開発が進められました。これまで言葉で指示された内容に基づき自動的にロボットアームを制御することで、ユーザーによる細かな制御が必要なくなるようなAIエージェントの開発を進めてきました。このAIエージェントへユーザーの脳活動から解読された単語をインターネットを介してインプットすることで、遠隔地に存在するロボットアームによってタスクを遂行できることを示す実験に成功しました。

3.今後の展開

今後は現在開発中のAI支援型のBMIシステムの精度を高めるとともに、発話や身体に不自由を抱える方々に実際に使用していただくことを通して、実証可能性やユーザーエクスペリエンスの検証を行っていきます。