2021.12.17

【開催報告】『混沌(カオス)を生きる』デジタルの日イベント「デジタルは『ちょうどいい道具』になれるのか ~個人データと自己の関係~」

Category

科学技術振興機構(JST)社会技術研究開発センター(RISTEX)およびアカデミーヒルズ共催で行われてきたトークイベント『混沌(カオス)を生きる』シリーズ。パンデミックや頻発する自然災害の脅威など、さまざまな生活環境の「混沌(カオス)」に目を向け、社会課題に取り組むテック系起業家らとともに、多様な分野の識者を交えて議論をしてきた。

2021年10月10日にオンラインイベントという形で開催された『混沌(カオス)を生きる』<デジタルの日イベント>「デジタルは『ちょうどいい道具』になれるのか ~個人データと自己の関係~」では、"人とテクノロジーの「ちょうどいい」関係"をテーマに、まずは4人の専門家たちが、それぞれのフィールドからテーマに基づく発表を行った。

photo

デザインエンジニアとして人とテクノロジーの共生を提唱し、今年5月に『コンヴィヴィアル・テクノロジー 人間とテクノロジーが共に生きる社会へ』を出版した緒方壽人氏は今回の議論の出発点として、70年代にオーストリアの批評家イヴァン・イリイチが著書『コンヴィヴィアリティのための道具』に記した「道具には、人間の能力を高めてくれるに至る第一の分水嶺と、逆に人間から能力を奪ってしまうに至る第二の分水嶺がある」という指摘を紹介。イリイチがその間にある「ちょうどいい道具」の一例として自転車を挙げたことが、その後、Googleのデザイン倫理担当(Design Ethicist)を務めた「シリコンバレーの良心」ことトリスタン・ハリスや、アップル創業者スティーブ・ジョブズらにも引用されたことにも触れ、この「自転車」が、現代の「ちょうどいい道具」を考えるメタファーになるのではないかと語った。

進化し続けるAIと人の違いを長らく研究してきた一橋大学 大学院経営管理研究科教授 七丈直弘氏はAIと人間を見分けるための指標として「ことばのべき則」に着目。人間の書いた文章で使われる単語の登場頻度においてべき則(よく使う単語とめったに使わない単語や繰り返し表現の頻度を対数グラフプロットすると直線に乗る)が成立しているのに対し、AIが生成した文章からはべき則が失われていることから、現時点でのAIはめったにない環境、完全に新しい環境には適応できないこと、長期にわたる経験を将来に活かすことができないことを指摘し、人間との間に、まだ明確な違いがあると結論付ける。そしてこの結論を元に、金融取引の例を挙げ、危機が生じうる局面では人間を介在させること、あらかじめそこにAIが介在していることを明らかにする仕組みが必要ではないかと提案した。

国内インターネットの立ち上げに尽力した1人としても知られる慶應義塾大学大学院メディアデザイン研究科教授 砂原秀樹氏は、現代が後世に「サイバー文明」とでも称される、全ての人類を包括する巨大な社会になっているとした上で、デジタル技術はあくまで人間のための「道具」であると断言。七丈氏のプレゼンテーションも引き合いに出しつつ(現在の)AIが"Intelligence(知性)"たり得ておらず、人の使い方がその性格を決める、即ち現時点では人間がコントロールできる、コントロールすべき「道具」であるとする。しかし、その構造が人間のプログラミング能力を超えてブラックボックス化しかけていること、即ち緒方氏の言う「自転車」のメタファーを越えた存在になりかけていることを懸念。今後はそこをどう説明、理解、担保していくかを考えていかねばならないと語った。

対人認知バイアスの社会への影響を社会心理学の立場から研究する唐沢かおり氏(東京大学大学院人文社会系研究科 教授)は、AIおよび関連技術が人々を幸せにするかという観点で議論を整理。心理学からの指摘として「快適さ、便利さ、豊かさ、健康などの価値を、より高いレベルで追い求めた結果、主観的満足感の達成が困難になる(モンスター的欲求者を生む)」ことや「満足や幸福を得るためのリソースが無限ではない(分配格差問題)」といった問題がすでに顕在化しつつあることを懸念し、トークテーマにもなっている「ちょうどいい」という言葉の持つ意味をもう一度考えるべきと提案。さらに、「よりよい」ではなく、「ちょうどいい」が持つ力をどう活かすか、AIとは「なにものか」ではなく、「なにものにしていくべきか」の認識共有の必要性、そしてそこにAIを使う立場としての我々の賢さ、理性と道徳性が問われると問題提起した。

その後のディスカッションは、「テクノロジーを道具と捉えるか否か」「人間中心主義の視点でテクノロジーとどうつき合うべきか」といった、ここまでのプレゼンテーションから顕在化した議題を元に進行。「AIは今後も人間を越えることはないのか、あるいは(人間の手に負えない)ブラックボックスになっていってしまうのか」(緒方氏)、「ブラックボックス化したとして、そのAIの透明性はどのようにして担保するのか」(モデレーター塚田氏)など、活発な問いかけが行われていった。

なお、これらの問いに対して砂原氏は「ブラックボックス化された最たるものは人間」とし、その人間を信用するプロセスに近いやりかたでブラックボックス化されたAIを信用していくことはできるのではないかと言う。たとえば、AIを生み出しているマシンラーニング(機械学習)やディープラーニング(深層学習)の基本的な理論を踏まえてデータセットの信頼性を検証するなどといったやり方が考えられると語った。その上で、AIが「ちょうどいい道具」であり続けるためには、人間がAIのもたらした「結果」に対して「責任」を持つことが重要であり、そのためにはAIなどのテクノロジーを信頼できるようにするための仕組みを現在の人間社会の拡張の中で作っていかねばならないとした。

トークセッションはこの後、デジタル社会の喫緊の課題とされている、フェイクニュースなどに代表される情報の正確性についても言及。「この情報社会の中で人は何を信頼していけば良いのか」(塚田氏)という問いかけに、唐沢氏が次のように回答した。

「信頼するという態度は、私たちが集団の中で適応的に生きていくために不可欠であり、道具に対してもそれは当てはまる。しかし、昨今は技術の発展が急激すぎて、技術の内実や社会的影響を理解した上で信頼に値するかどうかを判断することが難しくなっている。こうした中で陥りがちなのが、専門家への盲目的な信頼や、問題が起きたときに過度に騒ぐという態度だが、これは幸せな状態とは言えない。不確実性が高い状況では流言などが飛び交いやすいことも、信頼を揺るがす問題となる」

そして唐沢氏はこうした従来のリテラシーが通じなくなった状況下では、情報を受け取る側が、与えられた情報をまず「信頼する」というモードから解放される必要があるのではないかと言う。ただし、それは「疑い合うというディストピアを生んでしまう可能性がある」とも語り、解決法の1つとして、自らの信頼が何に基づくのか、その根拠を反省的に振り返るマインドを持つことを提示した。これに対し緒方氏はニュースアプリ「SmartNews」の事例を紹介。同アプリのアルゴリズムはユーザーの求める情報を効率的、優先的に表示しつつも、それと真逆のものも表示するようにすることで、ユーザーの受け取る情報が偏りすぎにないようにしていると解説した。

唐沢氏、緒方氏の発言を受け、砂原氏は、ニュースアプリの登場に代表されるような、自分に届く情報を個人がカスタマイズできるような時代がやってきたことを歓迎しつつ、そうした時代では自分にとって「ちょうどいい」が何なのかを考える力が重要になると語った。そして、そうした状況下における"希望"として、現代の小学生、中学生に対しては、「僕らとは全然違う高い次元にいる。僕は全く心配していない」と分析(これについては、小学5年生の子どもがいるという緒方氏も笑いながら同意)。注意すべきは彼らが伸び悩まないようにする環境作りだと言った。

その後も議論は白熱。個人が受け取る情報をカスタマイズできる時代の負の側面や、人間を中心としたサービスや場のプロトタイピングの重要性など、人間がデジタルを「ちょうどいい道具」にしていくために必要なことを探る、示唆に富んだトークセッションが繰り広げられた。

なお、本イベントではその後、第二部として『デジタルペルソナから「ちょうどいい道具」とはなにかを考える』というテーマに基づくワークショップも実施。慶應義塾大学総合政策学部 教授 國領二郎氏(RISTEX「人と情報のエコシステム(HITE)」研究開発領域 領域総括)による「誰一人取り残さない、人に優しいデジタル化」と題した導入講演後、東京大学空間情報科学研究センター 教授 柴崎亮介氏による「デジタル情報を自分の手に取り戻す体験をする」、東京大学 大学院情報理工学系研究科 教授 橋田浩一氏による「自分のデジタルペルソナを再現する体験をする」といった体験型の講義が行われた。

開催概要はこちら

---------------------------------------------------------
ライター 山下達也(やました・たつや)
※科学技術振興機構(JST)社会技術研究開発センター(RISTEX)からの依頼に基づき、取材・執筆を行いました。
---------------------------------------------------------