特別鼎談 人と情報技術の未来へ テクノロジーと人間社会のより良い関係構築に向けて
写真：左からドミニク・チェン（IT企業家・研究者）、江間有沙（東京大学科学技術インタープリター養成部門特任講師）、西垣通（東京経済大学コミュニケーション学部教授・東京大学名誉教授）
AIなどの情報技術が加速度的に進化する昨今。
その技術は、私たち人間にとってどんな意味を持ち、どんな影響を及ぼすのでしょうか。
まだ答えのない原理的な問いに向かって、対話の場をつくり、技術を社会に実装しながら考え続けるHITEコミュニティの先駆者たちに、未来の社会を共につくるアプローチを尋ねました。
情報技術の意味と社会的影響
まずはご自身の活動と、HITEとの関わり方を教えてください。
ドミニク・チェン(以下、チェン): 私は元々、情報学の研究者であり、2008年からアプリ開発などを主軸とするITベンチャー、株式会社ディヴィデュアルを経営しています。また、クリエイターがウェブ上で自分の著作権のあり方を選択できる「クリエイティブ・コモンズ・ライセンス（通称「CC」）」という仕組みを発信する、特定非営利活動法人コモンスフィアの理事も務めるなど、アカデミアと民間を行き来する活動をしています。
昨年、「人と情報のエコシステム（以下、HITE）」 の公募を発見し、ようやく日本でもこうした取り組みが始まったのか、と心が躍ったことを覚えています。なぜなら、海外では既に数年前から、研究者や事業家などが集まり、AIなどの先端的な情報技術の社会的リスクをパブリックに議論する場が生まれているからです。米国の Future of Life Institute や OpenAI といった非営利組織がその場をリードしています。日本も負けていられないという問題意識から、以前から議論をさせて頂いてきた大阪大学の安藤英由樹さんやNTTコミュニケーション科学基礎研究所主任研究員の渡邊淳司さんらと、「日本的Wellbeingを促進する情報技術のためのガイドラインの策定と普及」を立ち上げました。
江間有沙(以下、江間): 私は、「Science, Technology and Society」または「Science and Technology Studies」の頭文字を取って「STS」と呼ばれる領域を研究しています。科学技術と社会の関係性のなかでも情報技術、とくに監視技術の社会的影響に関心をもって研究していました。そんな中、2014年に人工知能学会誌の表紙が炎上する事件（*1）がありました。あの時、情報技術に携わる研究者たちと、私を含め情報技術の社会的影響について考えている研究者とが対話できる場がなかったことに気が付いたんです。そこで、同じ問題意識を持つ仲間とともに、情報技術と社会のあり方について対話を重ねていく「Acceptable Intelligence with Responsibility（AIR）」という研究グループを立ち上げました。メンバーで情報技術が導入されている現場へフィールド調査に行って一緒に分析したり、1980年代の第２次人工知能ブーム（*2）におけるオーラルヒストリー調査を行ってきたりしました。
西垣通(以下、西垣): 私の現在の専門は情報社会論や情報文化論ですが、社会人になりたての頃は企業の研究者として、メインフレーム・コンピューターのOSの数学的モデルを設計していました。以来、コンピューターとの付き合いは40年を超えます（笑）。1980年にスタンフォード大学へ留学したのですが、当時はAIの第2次ブームで知識工学が流行し、とくに弁護士や医師のような専門家を肩代わりするエキスパートシステム（*3）の開発が盛んでした。一方、スタンフォードでは「STS」も盛んで、この頃から科学技術が社会にどんな影響を及ぼすかが議論されていたんですね。私自身、自分の研究を社会の側から見直すきっかけになりました。
日本でも80年代、第5世代コンピュータをはじめ、AI開発に莫大な予算が研究機関に投下されました。私も帰国後その渦中に入り、第5世代コンピュータの開発に携わりましたが、工場現場勤務で体を壊し、80年代後半から教員になりました。その後AIブームは終焉して冬の時代を迎えるのです。私は、AIが日本で失敗した最大の理由は、技術開発ばかりが先行し、AIのもつ意味や社会的影響があまり考えられなかったこと、言い替えれば、科学技術の領域に哲学や思想が入り込めなかったことだと思います。
そのため私は80年代の頃からAIと現代思想をテーマに独自で研究を重ね、ポストモダンのフランス現代思想に傾倒するようになりました。その後、2000年になってようやく「文理融合」を謳った東京大学の情報学環が発足するのですが、その設立メンバーに加わり、日本発の「基礎情報学」を構築しようと今日まで実践し続けています。
みんなが参加できる「問い」をつくる
チェンさんや江間さんは、それぞれ「ウェルビーイング」や「多様な価値観」といった人間の主観的な視点をテーマとされていますね。
チェン: 昨今、米国のシリコンバレーなどを中心に、今までは主観にすぎないと思われてきたウェルビーイングやマインドフルネスといった個人の精神性に科学のメスを入れ、その再現可能性を探ろうとする動きが活発化してきました。奇しくもHITEの公募時期と同じ頃、それらの動向をまとめた書籍『Positive Computing-Technology for Wellbeing and Human Potential』（MIT出版）の翻訳を渡邊さんと監修することになり、今年1月に『ウェルビーイングの設計論−人がよりよく生きるための情報技術』（BNN新社）として出版されました。
ただ、欧米で語られる「ウェルビーイング」とは、あくまで個人の幸福を増幅しようとするもの。その評価軸としてポジティブ感情の度合いなどを計測しようとするのですが、そうした数値的な個人主義の価値観は、場の調和などを重んじる日本人の感覚とあまりなじまないのかもしれないと思ったんです。そこで、情報技術を駆使しながら、どうすれば日本的な価値観に根付いた「場」に特有のウェルビーイングを構築できるかを考えるのが私たちの研究テーマとなりました。
江間: いま質問されて思いましたが、「価値観」とは本当に個人の主観によるものなのでしょうか。私自身は価値観とは人と人、モノ、制度、環境などとの相互作用を通して、社会や共同体の中で育まれるものかなと思います。そして今日、人々の持つ「価値」はものすごい勢いで多様化し、同時にタコツボ化している。そのとき、多様な価値観をぶつけ合う「対話」の基盤づくりがとても大事だと思うんです。そこでは、ひとつの「答え」を出すのではなく、みんなが取り組める「問い」を作っていくことが大事だと思います。とはいえ、そのためには皆が興味を持つような適切な粒度の「問い」を作れるかが大事になってきます。それはこれからHITEで進めていきたい課題のひとつです。
「みんなが参加できる問い」を生むためには、メディアなどで流布されるAIや情報技術のイメージと、実際の研究との行き違いをなくす必要もありますよね。
チェン: 私は自分がIT技術者でもある分、技術者たちの日常的な「身体感覚」が社会にうまく伝えられていないと感じています。ある技術に対するリアリティや理解がない状態で、主観的に危険論や楽観論を話しても不毛ですよね。その打開策として、技術については多数の研究からわかっているデータなどのエビデンスに基づいて議論すべきだと思います。そうした議論は、このHITEのようにアカデミアの領域が補うのがベストですね。企業はどうしても短期的利益を追求する構造に従うので、人間にとっての技術の中長期的な意味を考えるインセンティブがありませんから。
西垣: 私は、どんな議論であっても、ものごとの「原理」に立ち戻って考えていくのが本筋だと思うんです。たとえばシンギュラリティは善か悪かという議論の前に、それがどの立場から話されているかを考えなければ議論は進まない。価値観とは生きている社会や場所に関わるもので、単なる主観ではなく、間主観的なシステムや文化から生まれるものです。そういうことに着目していかないとものごとがきちんと解けない。HITEでもプロジェクトごとに議論を発散してしまうのを避けるために、互いに原理的な理論を深めるべきだと強調したいですね。
江間: 「そもそも論」的な対話は大事になると思います。新たな技術や制度を社会に実装するときに、既存の技術や制度と単純に「置き換え」て終わりではなく、民主主義とは何か、責任とは何かといった西垣先生のおっしゃる原理的なことを考えなければならない状況にあると思います。例えば何を「正義」と考えるかが複数ある状態では、まずそれを整理する必要があるかと。
西垣: まさにそうですね。2014年に「ネット社会の『正義』とは何か 集合知と新しい民主主義」（角川選書）という本を書きました。これまでの社会科学や公共哲学の考えとAIが行う判断をある程度つなげて、正義や安全、利益などの基準をアルゴリズミックに作ることが最終目標です。その際に共同体全体にとっての功利主義的な価値追求と、個々の共同体の構成員の基本的な権利の2つを基軸にして、対話しながらバランスよく作っていくという提案です。
情報技術と社会のより良い関係をつくるには
HITEの目指す、「人と情報技術のなじむ社会」をどのように捉えていますか。
江間: 現状の情報技術は、最適化・効率性や利便性を重視する方向へと導くのが得意です。でも現代の価値観のまま最適化を行っていくと、次第に格差が増大し、特定の層だけが得をするシステムになる可能性がある。それとは異なる目的をもったオルタナティブの思想を技術まで落とし込むのが、チェンさんたちの言う「ウェルビーイング」のガイドラインなのではないでしょうか。
チェン: そうですね。我々を囲んでいるコンピュータはより速く、より便利になるという単一的な価値観によって構築されていますが、それが果たして正しいのかどうか、意味のあることなのかという議論は十分にされていません。便利さは人間の主体性や自律性を奪いかねないというトレードオフのリスクについても考慮されるべきですし、人間が自ら問いを立てられなくなったら、ますます機械に対する優位性が失われていきますからね。
江間: しかも機械は知らないうちに私たちの生活の中に入ってくるので、「自分は問いを作らなくなってきたな」ということにすら気が付かないのが問題です。
チェン: そうですね。例えば、インターネットの功罪もあります。Googleを使い始める前は、何らかの知識を得るためには図書館で本を読むなどの時間や労力が必要でしたが、最近は知らない単語が出てきたらWikipediaで見つけてすぐに納得してしまいます。この便利で迅速なプロセスが、知識を獲得する体験の濃度や有効性に何らかのトレードオフを生じさせているような気がします。こういうことを社会科学の研究でコツコツと実証していかないといけないと思うんです。
しかし、現代は異分野融合や学際的な運動では立ちゆかないほど問題が複雑化していて、「原理」を打ち立てる難易度が高まっているようにも思えます。江間さんたちの対話の手法は、まず対話の中から共通するプロトコルを発見し、そこからコンセンサスの原型のようなものを抽出するプロセスかと思いました。それで思い出したのが、インターネットの黎明期を支えた、インターネットに関連する技術の標準化を行う国際的組織「Internet Engineering Task Force」のやり方。それは、みんなが互いにワーキングコード、つまり動くシステムを作りながら、ラフでもいいからコンセンサスを共有していくのがいい、という考え方です。
江間: はじめは小さなネットワークの中で試行錯誤しながら、ラフなコンセンサスを作っていきたいですね。そのとき私が大事にしているのは「再帰性」と「現場性」、そして「透明性」です。再帰性とは、変わりゆく現実の中で常に自分の立ち位置や価値観、専門性をなど確認することです。また、現場性とは、今、何が実際に起きているのかをしっかりと観察すること。STSでは「現場知（local knowledge）」とも呼ばれますが、自分がどの立場から観察するかも含めて、実際にその問題に直面していたり、現場で働いていたりする人たちと対話することが重要だと思います。そしてそのプロセスをしっかりと記述していくことが透明性です。
チェン: 現場のリアリティが異なることで、それぞれの議論や原理が自己変容していく。従来の近代主義的、合理主義的な考え方では、それは理論ではなく自己矛盾じゃないかと言われてしまいそうですが、そうした矛盾もはらんだ理論の構築が必要で、もしかしたら科学全般も一層脱皮しなくてはいけないところに来ているのかもしれません。
西垣: 「情報」は論理絶対主義というか、普通は非生命的でメカニカルなものだと捉えられているので、現在の情報教育には相対的な視点が入ってきません。しかしこれからは、人間だけでなくイヌやネコ、虫たちさえ、それぞれの目で世界を見ていると考えなくてはならない。多様な環世界に目を向けることに価値があります。
一方、AI最適化の現行方向はその逆で、このままだとテクノロジーがますます暴走していくのではないでしょうか。作家や芸術家の中には、そうした未来の警鐘を鳴らす人々も多くいますが、そうした観点を作品として消費するだけでは、一種のガス抜きにしかならない。テクノロジーに関わる人間たち自身が、きちんと内側から考えていく必要があるのです。ですから、HITEではアカデミアのAI研究者だけではなく、もっと企業などの「現場」で技術開発を行う技術者の視点を取り入れてほしいと思います。なぜなら、開発戦争のただ中にいる厳しい現場の技術者たちは、その技術の意味を考える時間なんてほとんどありません。その点では、チェンさんはアカデミアと現場の両方にまたがる、日本では珍しいタイプの人ですよね。技術を社会に実装しながら考えていく、そのプロセスが重要だと思います。
江間: 「現場」というとき、いろいろな現場があると思います。技術を開発している人もそうですが、技術を作りつつ扱う専門家の視点も大事だなと思います。例えば、お医者さんなどに遠隔医療システムの話をお伺いすると、インタフェースの使い勝手や保険への適用、メンテナンス、技術教育など、システムを実装するためにたくさんのことを調整しなくてはならないとおっしゃっていました。
そして同時に、そもそも医療とは何かという根本的なことを考えて再構成していくのは彼らでもある。そうした現場の相互作用を整理し記述していくプロセスを大事にしたいです。
チェン: 最近考えているのは、何事も功利性を無視しては社会になじまないということです。最近ではGoogleがマインドフルネスの思想を企業内に取り入れ、社員たちに瞑想の時間をつくることで、チームビルディングに効果が生まれ、中間管理職がよりよいリーダーになっていくという話が喧伝されています。しかし、日々膨大な作業に追われる技術者たち、それに市井の人たちにとっては、瞑想で心を落ち着かせようと言われても参入障壁が高過ぎます。そこで、例えば瞑想をすると血糖値が下がるというような、エビデンスに基づく功利性が示せれば、社会に広めていく際の強い武器になるでしょう。いわゆる一過性のブームや悪しきポップサイエンスにならず、人間の心の状態という絶妙なさじ加減を僕たちはこれから創造していく必要があるんだろうなと。
江間: 社会に「なじむ」という単語を簡単に使うのも注意が必要です。なじませることは大事ですが、なじみすぎても思考しなくなってしまいますから。なじんだ結果が新たな固定観念を生み、新しいものを排除しないよう、再帰的にモノを見る仕組みを組み込んでいく必要があります。
チェン: 他方で、現場の人たちも本当は原理的な思考を求めているともいえます。現場では行き当たりばったりで仕様が決まり、結局誰も望まないシステムになっていくということが規模の大きい会社などではしょっちゅうあります。例えば、それぞれ視点の違う営業と技術職のあいだには、共通のプロトコルがないためにコンセンサスが取れないことがよくあります。その分、しっかりとチーム内でビジョンやプロトコルを共有していく方法を確立すれば、あうんの呼吸でシステムを作っていけるのではないでしょうか。
江間: 何ごとも信頼関係が重要だと思います。AIRのチームは、まったく異なる文化を持つ人同士と、対話だけで1年間をかけました。信頼関係がないままに議論を進めても、結局破綻することがほとんど。その分、信頼が構築されれば、問題意識の共有や意思決定も的確にできると思います。
対話のきっかけに、ユーモアを取り入れていく
チェン: 2016年に上海交通大学の機械学習の研究者2人が、顔認識から犯罪発生率を割り出せるという論文を出しました。犯罪者の顔認識のデータを学習させて、人々の顔写真から犯罪率を割り出すというものです。これに対し米国のデータサイエンティストは、人間が犯罪者を断定してしまうプロセス自体にバイアスがあり、その歪みをAIに増幅させているに過ぎないと反論しました。AIに与えるデータのほうに、人間側のバイアスがかかっていないかどうか、常に懐疑的である必要があると。
江間: 研究者自身は犯罪者を検知したいというような「善意」で研究をしているのだと思います。それに対しバイアスを真正面から指摘するのではなく、自分たちとは違う考えがあるということに気付くちょっとしたきっかけを作れないかなというのが私たちのHITEでのプロジェクトです。例えば、アシンメトリーな化粧や恰好をして監視カメラの追跡の目を逃れる活動をしているアーティストがいます。彼らのメッセージは「こうすれば犯罪者であっても追跡されないよ、監視カメラで犯罪者を追跡すること自体が破綻していない？」と気づかせることです。このようにアート作品などのユーモアからアテンションを集める方法もあると思っています。
チェン: アクティビズムやアートはこれからもっと重要になりますね。その化粧をしたアクティビストの行為は、社会の常識から逸脱した地点から問いを投げかけるスペキュラティヴデザイン（問いを作る／議論を喚起するデザイン）の一種でもあり、アートが担う社会的機能のひとつだと思います。アートにおけるアジテーションから対話が生まれることを僕自身も体験してきたので、そこには希望を感じます。
江間: 「社会の不利益や倫理について話しましょう」と呼びかけるのは、「上から目線」だなと思いますし、ちょっと堅苦しい。私は人々がどんなことを考えているのかを知りたいし、私自身も学びたい。だからこそ、フィールド調査が大事だと思いますし、みんなが自然と集まって楽しく話せる場を作る際にも、アートやユーモアを使った場づくりに興味があります。
HITEの３年間プロジェクトでは、どのような活動をされる予定ですか。
チェン: 今まで解決できなかった情報技術と社会の問題を解く基盤や、そのガイドラインとなるような基礎の議論を作っていきたいと思っています。そこでは、どんな多様なメンバーと恊働していくべきかと悩んでいたところで、江間さんのように対話の手法を専門に研究している人に教えていただければ心強いです。
江間: こちらこそ色々教えてください！AIRのネットワークは誰が主体ということではなく、みんなで考えること、そして、面白いことがあればそこで新たにチームを組むという方法を取っています。私たちにとって対話は目的ではなくツールです。対話を通して、過去を振り返り、現在を整理してネットワークを作り、ちょっと先の未来に進むべき一歩が描けたらなと思っています。
西垣: 私自身は相対価値やリベラリズムを尊重しつつも、情報技術の原理や普遍性を追求していくのが目標です。HITEでは、リアルな現場の人々を巻き込んで互いの価値観を学び、普遍性を模索しながら、個人の研究者として基礎情報学を構築していきたいと考えています。
写真左から：
西垣 通
HITE領域アドバイザー。1948年、東京都生まれ。東京大学工学部計数工学科卒業。日立製作所に入社。コンピュータ・ソフトの研究開発に携わる。その間、スタンフォード大学で客員研究員。その後、東京大学大学院情報学環教授などを経て、東京経済大学コミュニケーション学部教授、東京大学名誉教授。工学博士。専攻は情報学・メディア論。
江間 有沙
HITE採択プロジェクト「多様な価値への気づきを支援するシステムとその研究体制の構築」代表。東京大学科学技術インタープリター養成部門特任講師。NPO法人市民科学研究室理事。人工知能と社会の関係について考えるAIR研究グループを有志とともに2014年より開始。2017年より理化学研究所革新知能統合研究センター客員研究員。学術博士。
ドミニク・チェン
HITE採択プロジェクト「日本的Wellbeingを促進する情報技術のためのガイドラインの策定と普及」研究開発実施者。特定非営利活動法人コモンスフィア理事、株式会社ディヴィデュアル共同創業者。人工生命の未来を志向するHITE採択プロジェクト「人間と情報技術の共進化を目指す共創コミュニティAlife Lab.の構築」にも参加。
*1 / 人工知能学会、表紙炎上事件 2014年、人工知能学会の表紙のイラストが女性蔑視につながるとして、SNS上で大きな議論を呼んだ事件。ホウキと本を持った「女性型のお手伝いアンドロイドロボット」というビジュアルが、旧時代的な女性像や、AI、ロボットのイメージを固定化するとして批判された。
*2 / AIの第1、2、3次ブーム 1956年に「Artificial Intelligence」という言葉が初めて使われてから、AIはその技術の発展とともに、現在までに3回の社会的ブームを巻き起こしている。第1次はコンピュータによる推論と探索が可能になった1960年代、第2次はエキスパートシステム（後述）が到来した1980年代。現在の第3次ブームは、論理よりもパターン認識、知覚、視覚などの機能をシミュレートし、学習させることに重きを置いた機械学習、ひいてはディープラーニング（深層学習）の発展による功績が大きい。
*3 /エキスパートシステム 専門家（エキスパート）の知識や意志決定能力をコンピュータにエミュレートさせることで、現実の複雑な問題をAIに解かせようとするアプローチ。
※本記事は、「人と情報のエコシステム（HITE）」領域冊子vol.01に収録されています。
そのほかの記事、そのほかの号については以下をご確認ください。
HITE領域冊子