開催日：2018年(平成30年)8月10日(金)
会場：東京工業大学 石川台7号館ELSIホール・ギャラリー(東京都目黒区)
その問いはよく知られていますが、人工知能にまつわる切実な「もしも」は、もっと身近にも数多く見つかります。自律する人工知能と人間の間には、今後どのような関係性が生まれ、どのような遣り取りが生じてくるのでしょうか。
「情報エコ」領域でこの問題に取り組む3つのプロジェクトが、この「もしも」を考えるワークショップを開催しました。
今回は、東工大のオープンキャンパスにおいでいただいた、高校生の皆さんにご意見を伺います。
開催は当日の午前と午後の1回ずつ。午前中の回では、高校1年生を中心に、約20名にご参加いただきました。
騙された人工知能ロボット！
悪いのはロボット? ユーザー? メーカー?
まずは、プロジェクトの先生方からの簡単な自己紹介から。「ロボットの研究」という科学技術のど真ん中のようなお題目からは、ちょっと不思議な気もする自己紹介が並んでいます。足を運んでくださった皆さんもきっと、そんな「不思議な」研究に興味を惹かれているはず......?
「認知科学出身の法学者」
稲谷龍彦氏(京都大学 大学院法学研究科 准教授)
「もとは4類(機械系)志望だった哲学者」
松浦和也氏(東洋大学 文学部哲学科 准教授)
「工業大学の異色の脳科学者」
葭田貴子氏(東京工業大学 工学院機械系 准教授)
「子どもの脳に学ぶロボット工学者」
河合祐司氏(大阪大学 大学院工学研究科 助教)
続いて、「ロボットを通じて発生した犯罪被害」の例の紹介です。近未来に起こりそうな短いドラマの映像が流れ、その内容について全員で考えます。
持病のあるＡさんは、自宅にあった対話型ロボットに命を救われます。発作を起こしたAさんに「薬を飲ませなくては」と判断したロボットは、たまたま訪ねてきた「登録されていないひと」を、鍵を開け自宅に入れることで、Aさんを助けました。
しかし、自宅に侵入する目的でロボットを騙すひとが現れます。
ざっくり3班に分かれ、参加者がおのおのの意見を出し合います。結果、メーカーに責任がある、という意見が圧倒多数を占めました。
「ユーザーの異常を、外部に知らせる機能をつけるべきだったのでは」
「鍵を開ける機能があるなら、当然、防犯を扱うことになる。その前提でメーカーが考えるべき」
など、など。1班だけが「ユーザーであるAさんが悪い」とする意見をまとめましたが、「あらかじめ、優先順位をきちんと設定するよう説明して売るべきだった」と、メーカーの責任にも触れています。
さらに、印象深い発言もいくつかありました。
「ロボットに、学習させ考えさせる機能を与えなければよかったのではないか」
それは「技術として可能であっても、使うべきでないものもある」という意味になります。確かに私たちには、そういう選択肢もあるのですね。素晴らしい技術であっても、コントロールが難しいのであれば「使わない」「用途を制限する」と決める勇気も必要になります。
そして、「子どもの責任は親が取る、という考えかたがある」という意見には、どきっとさせられました。人工知能の「親」は、メーカーだけではないかもしれません。天馬博士だけに責任をとらせて済む話ではないのです。
ワークショップの開始時に、ディスカッション用のSNSに登録。「投票」すると集計結果がすぐに表示されます。
参加者にはショートドラマの中で「騙されるロボット」を演じてくれた、Sotaくんのコースターをお持ち帰りいただきました。「ロボットは悪くない！」と頷いていたみなさん、自宅でもこのショートドラマを話題にしていただけたら嬉しいです。
「いいロボット」の定義を考えていると
「いい社会」に思いを巡らせることになる
続いては、場所を移しての「哲学カフェ」へ。テーマは「いいロボットとわるいロボット」です。3つのテーブルに分かれ、頭を突き合わせて意見を出し合います。
これは、話し合うほどに難しさが見えてくるテーマでした。
「人間に利益をもたらすか否か」を基準にすると、「人間だけ、でいいのか」「目先の利益でいいのか、十年後の利益を考えるのか」といった疑問が沸いてきます。
「人間が制御できるものがいい」という考えでは、自律型のロボットは否定されてしまい、「悪いことに使うひとがいたらどうなるの?」という話にもなります。
「戦争のために作られたなら、わるいロボット」と言えるでしょうか。それが戦争を早く終わらせてくれたなら、もしかしたら「いいロボット」と呼ばれるかもしれません。
「いいわるいを考えるには、まずロボットを、人とコミュニケーションするかしないかで分けてから」と考えたチームもありました。
結局はすべて、「私たちは、どんな社会をつくりたいのか」につながっていきます。話し合いが進むにつれ、すっかり考えこんでしまう参加者や、思うことが言葉にならない......と、もどかしげな表情の参加者が目立ちました。
場所柄、ロボットの開発者を目指す参加者も多かったはずです。それだけに「開発者の責任」をより切実に感じながら、丁寧に深く考えていただいた様子でした。みなさん、ありがとうございます！
今回のワークショップを主催した3つのプロジェクトは、これからも、さまざまな立場のみなさんからご意見を伺いながら、ひとと機械の責任の範囲やありかた、法整備の方向性などを追究していきます。どんなロボットとどんな社会を、どんな未来をつくりたいのか。みなさんと一緒に考え、答えを探っていきます。
※所属・役職は、取材当時のものです。
（文責：RISTEX広報 公開日：平成30年8月20日）
