• 來住南 桃 京都産業大学 法学部 助教

2023年採択稲谷プロジェクト:「共棲ロボット」との親密な関係形成におけるELSIに関する越境型文理融合研究

キーワード Ver.2.0:自分以外の存在が自分に与える影響ってなに?

悩みや不安を抱えているとき、まずはAIに話しかけてみる。すると、まるで気の置けない友人かのように応答してくれて、話し終わった後にはなんだか心が軽くなっている――そんな経験のある人は、もはや少なくはないのではないだろうか。では、このようにAIと関わっているとき、果たして私たちはただ単にAIを道具のように「利用」しているだけなのだろうか。それとも、この関わり合いは、単なる利用とは異なり、より親密な関係性と呼ぶべきものなのだろうか。

道具を「使う」という関係には、明確な主客ないし主従が前提とされている。道具は人間の目的を達成するための手段であり、必要な時に必要な範囲で使われる。しかし、例えばAIとのやりとりを経て、私たちの考えや感情が動かされるとすれば、その関わりはもはや単なる手段ではなく、こちらへと働きかけてくる「他者」としての関わりに近づきつつあるといえる。

AIのみならず、近時は家庭向けのロボットなどのテクノロジーもまた、より身近な存在となってきている。そのようなロボットの中には、掃除ロボットなどの「何らかのタスクを達成する」ためのロボットもある一方で、むしろその逆に「何もしない/できない」ロボットも存在する。このようなロボットは、〈弱いロボット〉という設計思想に基づき、あえて自らのみで目的やタスクを完結できないようデザインされ、それゆえに周りにいる人たちが自然と「助けてしまう」ようになる――ケアを引き出す――ことを企図してつくられている 1。

このようなロボットとの関わりは、単に人とテクノロジーは主従ないし主客の関係にのみ立つものではなく、共に暮らし、互いに影響を及ぼし合いながら、相互に変化していく関係性があり得ることを示している。私たちの研究グループは、このようなロボットを「共棲」ロボットと名付け、ロボットのどのようなデザインが人との共棲を可能とするのかを明らかにしながら、よりよい共棲ロボットのためのELSIを研究している。

このようなテクノロジーとの「共棲」は、しかし、テクノロジーのデザインや設計次第では、深刻な問題を引き起こしうる。AIやロボットの開発・サービス提供企業には、親密さを手段として、人とテクノロジーとの関わり合いの時間を増大させ、利益を確保する動機がある。親密さが増大するほど、テクノロジーを通じて得られるデータは機微を多く含むようになり、プライバシーの侵害が可能になる。過度な親密さは、依存やメンタルヘルスの悪化に繋がったり、ロボットとの関係性がロボットから人への「操作(manipulation)」へと転じ、人の判断や行動選択が、本人以外の者の利益のために誘導されてしまう可能性すらある。米国においては、AIチャットボットとの親密な関わり合いの末に自殺に至った未成年の遺族が、当該AIの開発企業に対して訴訟を提起している 2。また、近時の研究は、人間に対して過度に同調的な振る舞いをするAIは、人を自己正当化に向かわせて対人関係を改善する動機を失わせうるなど、AIとの「悪い」関係性による望ましくない影響の存在を明らかにしている 3。

では、AIやロボットが人と親密になることは避けるべきことなのだろうか。上述のリスクが存在する一方で、テクノロジーとの共棲は、人間のウェルビーイングを向上するためにも用いられうる。例えば高齢者のケアや、子どもの教育などに、AIやロボットとの親密性を活用できるのではないか。このような発想により設計・製作されているテクノロジーはすでに多く存在している。単にテクノロジーと人との親密さを忌避するのみならば、このようなテクノロジーの活用が困難となり、むしろ人々の可能性を奪ってしまうことになりかねない。

問われるべきは、親密さの有無ではなく、その関係性の質であろう。テクノロジーを単なる道具ではなく、私たちと共棲する「他者」であると見るならば、その関係性をより望ましいものとするためには何が必要なのかが問われる。哲学者イヴァン・イリイチは、人が道具に使われるのでも、道具を一方的に使い倒すのでもない関係を、「コンビヴァル(Convivial)」な関係と呼んだ 4。それは、異質な者同士が互いの主体性を損なうことなく共に在ることが可能な関係性のあり方を指す。人とテクノロジーのコンビヴァルな関係を目指すこと――他者としてのテクノロジーとの真の意味での共棲は、テクノロジーが飛躍的に発展する今日において、私たちが目指すべき一つの方向性であり、それに向けたELSI研究の必要性は日々高まっている。

  1. 岡田美智夫『〈弱いロボット〉の思考 私・身体・コミュニケーション』(講談社、2017年)
  2. Raine v. OpenAI
  3. Myra Cheng et al., "Sycophantic AI decreases prosocial intentions and promotes dependence," Science0020391, eaec8352 (2026), https://doi.org/10.1126/science.aec8352.
  4. イヴァン・イリイチ(渡辺 京二、渡辺 梨佐訳)『コンヴィヴィアリティのための道具』(筑摩書房、2015年)。緒方壽人『コンヴィヴィアル・テクノロジー』(ビー・エヌ・エヌ、2021年)も参照。
エッセイ一覧に戻る 言説化の取り組みへ戻る
トップへ