ERATO 池谷脳AI融合プロジェクト

3. 脳AI融合テクノロジーに対する反対論

　前節で見たように、脳AI融合テクノロジーの研究開発に対しては、さまざまな懸念が考えられます。そのなかには、脳AI融合テクノロジーの研究そのものが許されるものではないという強い反対論もあるでしょう。本節では、そのような批判に目を向けてみましょう。

　脳AI融合テクノロジーの研究に対する強い反対論としては、いくつかのものが考えられます。まず考えられるのは、遺伝子や原子力など、人間には手を出すべきではない領域が存在し、脳もまたその一つだという批判です。このように考える人々は、遺伝子や脳の働きは複雑で、人間にはうまく制御できないと考えているのかもしれません。あるいは、想定外の事態が生じたときの害が深刻であるということを懸念しているのかもしれません。これらの懸念はもっともですが、遺伝子操作や飛行機など、正確な制御が困難なテクノロジーや、間違いが生じたときには大きな害が生じる可能性のあるテクノロジーも、われわれはある程度利用しています。脳AI融合テクノロジー研究の是非を評価するためには、このテクノジーはどのような利益をもたらすことが期待されるのか、このテクノロジーはどの程度制御可能で、想定外の事態が生じたときにどのような害が生じうるのかといったことを具体的に検討することが不可欠でしょう。

　あるいは、批判者は、リスクがあるかどうかや制御可能かどうかが問題なのではなく、ある種のテクノロジーは端的に人間が手を出すべきではないものだと考えているのかもしれません。そのような人々に対しては、具体的にどのようなテクノロジーがそこに含まれるのか、なぜそのように考えるのかといったことをさらに問い、容認派と反対派のあいだで相互に理解を深める必要があるでしょう。

　別の反対論としては、脳は人間存在のあり方を決める器官であり、そのような脳を機械と融合すれば、われわれは人間としての本性を失ってしまうのではないか、という批判もあります。しかし、人類はさまざまな技術を開発して、みずからのあり方を改変することを古来続けてきたということも事実です。たとえば、人類はさまざまな医療技術を開発し、みずからの生活を改善してきました。そのなかには、臓器移植や体外受精のように、きわめて人工的な方法もあります。技術によってみずからのあり方を改変することは、人間にとって自然な営みかもしれないのです。ここで対立の根底にあるのは、人間観の違いだと言えるかもしれません。脳AI融合テクノロジーに対する反対派は、人間には一定の本性があり、われわれは人為的にそれを変えるべきではないと考えます。これに対して、容認派は、人間にはそのような決まった本性はなく、技術によってみずからのあり方を変えていくことこそが人間本性だと考えているのです。どちらの人間観が適切なものかは、ただちに判定できることではないでしょう。

　このように、脳AI融合テクノロジーを否定する立場、あるいはより一般的に人体を対象としたテクノロジーをすべて否定するという立場は、やや極端であるように思われます。われわれにとって重要なことはむしろ、脳AI融合テクノロジーが社会にどのような利益とどのような問題をもたらすか、そしてそれらの問題にどう対処できるかを具体的に検討し、そのよりよい活用法を探っていくことでしょう。

4. 科学技術のELSIをどう考えるか

　これまで見てきたように、脳AI融合テクノロジーは、さまざまな倫理的・社会的課題を引き起こす可能性があります。脳AI融合テクノロジーの研究開発と社会実装を進めるうえでは、これらの課題の検討が不可欠です。これは、脳科学研究者だけでできることではありません。たとえば、ここで取り上げた脳AI融合テクノロジーの多くは、医療やビジネスにおける利用だけでなく、さまざまな形での軍事利用が可能なものです。（実際のところ、いくつかの技術の研究は米国防総省の支援によって進められてきました。）このような、いわゆるデュアルユースが可能なテクノロジーに関しては、軍事利用を認めるのか、認めるとしてどのような利用法ならば認めるのか、どのような法律や制度によって利用に制約を課すのかといったことについて、社会全体で議論することが不可欠です。このように、脳AI融合テクノロジーの研究開発と社会実装を進めるうえでは、脳科学研究者、関連分野の科学者や技術者、倫理学や法学といった人文社会科学の研究者、政策立案者、一般市民が一体となり、多様な視点から課題を検討し、多くの人が納得できる方針を定める必要があります。そのための制度設計は、われわれの社会にとっての重要な課題です。

　そのなかで、科学者はどのような役割を担うことができるでしょうか。一つには、科学的に正確な情報を提供することが考えられるでしょう。また、専門家以外には気づくことが難しい科学技術の可能性や危険性に関する情報を提供することも重要でしょう。他方で、科学技術のELSIを考えるうえでは、科学者だけでは対処できないことを明らかにし、誰のどのような関与が必要かを明らかにすることも重要です。

　科学技術のELSIに関しては、国によって考え方や具体的な政策・制度が異なるということも大きな問題となっています。たとえば、脳AI融合テクノロジーの研究は、脳への物理的な介入を含む研究、すなわち侵襲的な研究を多く含んでいます。しかし、侵襲的な研究をどの程度認めるかということに関しては、国によって大きな隔たりがあります。このような現状では、きちんとしたルールのない一部の国が、倫理的に問題のある研究を通じて脳AI融合テクノロジーの研究開発を推し進め、それに対抗するために、他国でも倫理的に問題のある研究が行われるようになるということになりかねません。このような事態を避け、脳AI融合テクノロジーの研究を社会に受け入れられる形で進めていくためには、国際的なルール作りも重要な課題となります。