ERATO 池谷脳AI融合プロジェクト

1. 脳AI融合プロジェクトとELSI

　池谷脳AI融合プロジェクトでは、脳とAIを接続することによって人間の脳がもつ可能性を広げることを目指しています。脳は、人体の中でもとくに複雑な器官で、その働きに関しては未知の点も多く残されています。また、脳は心の働きを司る器官であり、その働きに介入することは、心の働きに介入することにほかなりません。したがって、脳AI融合テクノロジーの研究開発やその成果の社会的利用は、将来的にさまざまな倫理的課題を引き起こす可能性があります。池谷脳AI融合プロジェクトでは、脳AI融合テクノロジーの研究開発を進めるうえでは、そのような倫理的課題の検討が不可欠だと考えています。

　今日では、科学技術の研究開発を進める際にその社会的影響を検討することは、珍しいことではありません。1970年代に遺伝子組み換え技術が開発されると、人間の遺伝子の操作が現実味を帯びたものとなり、遺伝子操作の是非が議論されるようになりました。これを受けて、1990年代にアメリカで始まったヒトゲノムプロジェクトでは、研究予算の5%を倫理的、法的、社会的影響 (Ethical, Legal, and Social Implications: ELSI) の研究に割くことが定められました。これ以降、科学技術の研究開発を進める際には、そのELSIを検討することが一般的となりました。このような事情をふまえれば、いま問題になっているのは、脳AI融合テクノロジーのELSIだということになります。

　科学技術のELSIに関するこれまでの議論には、脳AI融合テクノロジーのELSIを考えるうえで参照できるものも多く存在します。たとえば、脳AI融合テクノロジーの多くは、人間の能力を高めるもの、いわゆる能力増強 (enhancement) をもたらすものです。このようなテクノロジーについて考える際には、遺伝子関連テクノロジーのELSIを検討するなかで展開された、遺伝子改良の是非をめぐる議論が参考になります。また、2000年代には、脳神経科学研究やその成果の社会的応用に関する倫理的課題を検討する学問分野として、脳神経倫理学 (neuroethics) が誕生しました。脳情報の読み取りや、脳と機械の接続をめぐる倫理的課題に関しては、脳神経倫理学における議論が参考になります。さらに、脳AI融合テクノロジーに関する倫理的・社会的課題の多くは、自由や平等といった基本的な価値に関わる問題です。このような課題を考えるうえでは、政治哲学などの議論も参考になるでしょう。

　他方で、脳AI融合テクノロジーは、現在われわれの身の回りにあるテクノロジーとはさまざまな点で異なるものであり、われわれがこれまで直面したことのない新しい課題を生み出すかもしれません。脳AI融合テクノロジーの研究開発を進めるうえでは、従来の議論を参照するだけではうまく対処することのできない課題を特定するということも、重要な作業となるでしょう。

　脳AI融合テクノロジーのELSIについて検討するため、池谷脳AI融合プロジェクトとJST/RISTEX「人と情報のエコシステム」研究開発領域のメンバーが2年かけて議論を行ってきました。この資料では、脳AI融合テクノロジーにはどのような倫理的・社会的課題があるか、それらを考えるうえではどのような議論が参照できるか、脳AI融合テクノロジーはどのような新たな課題を生み出すか等、共有してきた情報や論点をまとめました。

　以下で検討する課題の多くは、ただちに現実化するものではありません。脳AI融合テクノロジーを実用化するには、それまでに多くの技術的な課題を克服する必要があるでしょう。しかし、脳AI融合テクノロジーが今後30年から50年ほどのあいだに順調に進展すれば、われわれはいずれこれらの課題に直面することになるでしょう。

　これまでも、新しい科学技術はさまざまな課題を生み出してきました。そして、地球温暖化の問題などを見ればわかるように、問題が生じてからその対応に迫られ、十分な対応ができないこともしばしばあります。新しい科学技術は強力なものであるがゆえに、それが引き起こす問題もしばしば深刻で、事後的な対応だけでは十分に対応できません。そのため、近年では、実際に問題が生じる前の段階から、将来どのような倫理的・社会的課題が生じそうかを予備的に論じておくことが、世界的に重視されています。このような考え方は「責任ある研究とイノベーション」と呼ばれます。池谷脳AI融合プロジェクトも、この考え方を重視し、脳AI融合テクノロジーが将来引き起こすかもしれない課題をいまから検討し、先手を打って対応することが重要だと考えています。

　なお、以下で検討する課題の多くは、池谷脳AI融合プロジェクトに固有の課題というよりも、脳AI融合テクノロジー一般に関して生じうる課題です。そのなかには、類似のテクノロジー一般に関して成り立つものもあります。この点にも注意が必要でしょう。