2022.09.22

インタビュー「脳AI融合研究に、人文学者が関わること」

Category

「脳AI融合」という言葉からは、近未来的な想像が湧く人もいれば、人の倫理に反するのではないかという懸念を持つ人もいるだろう。言葉のイメージだけが先行しやすい時代にこそ、ELSIの専門家が研究の初期段階から関わり、ともに倫理的課題やこれからの技術発展のビジョンを描く必要性が生まれている。BRAIN-AI×HITEプロジェクトにELSI担当として携わる、標葉隆馬准教授と石田柊研究員に話を聞いた。

石田 柊、標葉 隆馬

石田 柊
大阪大学社会技術共創研究センター特任研究員。専門は規範倫理学・応用倫理学。2022年3月東京大学大学院総合文化研究科博士後期課程単位取得退学。2021年9月より現職。

標葉 隆馬
大阪大学社会技術共創研究センター 准教授。専門は科学社会学・科学技術社会論・科学技術政策。2006年3月京都大学農学部応用生命科学科卒業。2011年3月京都大学大学院生命科学研究科博士後期課程修了。総合研究大学院大学・助教、成城大学・准教授などを経て現職。

格差、プライバシー、過剰な期待 ...
あらゆる倫理課題を検討する

―― 将来的に脳と人工知能の融合に関わる技術の開発や普及が進む過程で、ELSIを検討する上ではどのような課題が生じると思いますか?

標葉隆馬(以下、標葉):先端科学領域では「分配的正義」というキーワードが頻出します。どういうことかというと、先端科学技術の成果や恩恵というものは往々にして経済的に豊かな人だけが享受する状態に偏りがちだという問題があります。そこで、そうした恩恵に誰もがアクセス可能であり、それぞれの背景に応じて適切に恩恵を得ることができるようにするべきだという議論が出てきています。さらには、そのための仕掛けを研究開発側も考えていくことを強く求められるようになりました。それは脳神経科学のみならず、さまざまな先端科学領域の政策や国際学会のガイドラインにも明記されるようになっています。

この先、脳AI領域の技術が実用化された時にも、誰がその技術を利用できるのかという問題が生じることが予想されます。また、それにアクセスできる人とできない人との間にどのような差が生じるのか、さらにはそれを使うのが当たり前の社会になったときに格差や差別などの問題は生まれてしまうのか。このような分配的正義とそれに伴う不平等や差別の問題についての議論が必要だと思います。また少し違った視点として、どれだけ有用な技術があったとしても、「自分は利用しない」と言える自由は担保されるのか。またその選択で不利益を被らないためにはどのような仕掛けが必要なのかなども課題になりえます。

脳神経科学の話題は個人のプライバシーに深く関わるものであると同時に、在住する国や社会階層などの属性によってその恩恵の享受の度合いが大きく変わってしまうという側面があります。ともすると、メンタルプライバシーの侵害や格差の拡大につながり、さらに経済的格差などが顕在化することでセキュリティリスクにもつながる深刻な課題ではありますが、それらの問題は研究開発に携わる当事者の方々も感じていることでもあるので、その分ガイドラインの策定などの議論をする際に共通認識を持ちやすい面もあります。

ほかにも、それぞれの科学技術に対する社会からの期待をマネジメントすることも重要です。例えば教育利用や病気の治療などへの活用が期待された脳神経科学など、期待感が高く懸念点が必ずしも積極的に語られていなかった時代が長い分野は、過剰に期待されてきた分、後から問題提起をされた時に激しい揺り戻しが来る可能性があります。それを現段階からどのようにマネジメントして良いかたちに落とすかも重要な課題だと思います。

―― 脳AI融合プロジェクトには、人の心に関連するテクノロジー特有の課題もありそうです。

標葉:おっしゃる通りですね。例えば「認知エンハンスメント」や「道徳エンハンスメント」といわれるキーワードがよく話題になります。一例として、凶悪犯罪を犯した人に対して、脳にアプローチすることで彼らの攻撃性を抑えるアプローチが可能となった場合、それは倫理的にどこまで許されるのかという議論があります。他者や社会の安全の確保という利点はあれど、やはり人権侵害になりかねないとも言える介入の仕方ですから、そう簡単な話ではありません。そのような実用例が想定される場合にどう扱うかは事前に議論されるべきです。

石田柊(以下、石田):「感情エンハンスメント」も議論の対象になります。これは操作の倫理学に関わるテーマでもありますが、テクノロジーによって半ば強制的に気分をよくするなどの介入のことを指します。また、エンハンスメントがあるということはその逆の側面の可能性も指摘されてきました。例えば、外的介入によって相手にストレスを与えたり、相手の認知能力や道徳性を下げたりするという介入も考えられます。

標葉:もうひとつの課題は、技術が進歩する速度があまりに速いので、法律を整えるスピードが追いつかないことです。そうなると研究の当事者たちが学会の指針や業界指針、規範などを通して自主的にブレーキをかけて縛っていかないと問題が山積して対処できなくなってしまいます。明文化され法的な拘束力を持つ法律などのハードローに対し、業界内のガイドラインなどをソフトローと呼びますが、このようなソフトローの役割は大きく、それを整える際には当事者である研究開発側の研究者たちにも議論に参加していただくことが大切です。そうでないと当事者不在のまま制定された法律などのルールを望まない形で押しつけられることになるかもしれませんし、それによって研究開発にも過剰な形で支障をきたすことになりかねません。

議論の蓄積を
共有し合う

―― 先進的な研究に人文社会学の研究者が関わることには、どんな意義があると思いますか?

標葉:先端科学の研究をやっている科学者・研究者は、ELSIに関わるテーマの重要性を理解されていたとしても、世界的に過酷な競争環境の中で、なかなかそれらの課題を十分に議論するような時間を割くのが難しい状況にあります。一方で科学技術の社会的課題を扱ってきた我々のような研究者は、多少なりとも過去の議論の流れや関連する論点、分析する手法といった専門性を持ち合わせています。両者が良い形で協働できることで、議論をより良い形で進めていくことにつながると思います。

石田:私の専門である倫理学にフォーカスしてお話しすると、倫理学が対象領域の活動をただ縛るだけであれば、研究者にとって協働するメリットがほとんどありません。しかし倫理学が蓄積してきた知見は規制だけではなく、むしろ規制の緩和を根拠づけるために活用することもできるはずです。極論を言えば、倫理的な側面だけ考えると新しい技術なんかわざわざ使わないほうが最も安全ということになってしまいますが、これだけ技術が発展するいま、実際はそうもいかないですよね。科学の恩恵を最大化するためにも、新しい分野の研究をすることに伴う倫理的リスクに対峙するための先導役を倫理学者が担う意義はあると思います。

私たちが研究をしている事柄は明日すぐに役立つ知識ではないかもしれませんが、さまざまな倫理の問題が想定されていくなかで意味のあることをしているという実感はあります。それこそが醍醐味ですし、倫理学者も伊達や酔狂で研究をしているわけではないことを、しっかりと世の中に見せていきたいと考えています。

倫理的リスクに対峙するための先導役を担う意義があると思っています

―― 先端的な研究開発と専門外の人々とのコミュニケーションを図る上で、今後はどのようなアプローチが可能だと思いますか。

標葉:科学技術の研究開発に携わる方は、常に悩みながらも自分たちの生産する知識を世の中に役立てたいと考えていると思います。実はその悩みこそが技術を社会に実装をする際に最も重要な論点に近い場合が多いのではないかと思います。なぜなら、それらの悩みは個別の悩みではなく過去に議論されてきた事柄でもあるため、リアルタイムに直面している悩みと紐付けて考えることで、その技術を社会の中にいかにして根付かせるかに関わる論点を先取りすることができるからです。ですから、できるだけ早い段階から共有していく必要があると思います。また言語化が難しい場合もあるため、ELSIの研究に携わる我々が社会に伝える新たな「ことばづくり」のお手伝いもできればと思います。

新たな「ことばづくり」のお手伝いをしていきたいんです

※本インタビュー記事は、「BRAIN-AI×HITE活動紹介冊子」に収録されています。冊子の入手については以下をご確認ください。
「BRAIN-AI×HITE」の活動紹介動画・冊子公開