第13回社会技術フォーラム「人と情報のエコシステム：情報技術が浸透する超スマート社会の倫理や制度を考える」開催報告

冒頭、泉紳一郎 社会技術研究開発センター長が、「1月22日に閣議決定された第5期科学技術基本計画においても、"超スマート社会"に関する、さまざまな研究開発の方向性が示されている。RISTEXでも、新しい価値やサービスが次々と創出される"超スマート社会"に向かっての研究開発拠点を形成していく」と挨拶した。

続いて、矢島章夫 RISTEXシニアフェローが新規研究開発領域の構想を説明。RISTEXでは、具体的な問題の解決のために、人文・社会科学、自然科学にわたる分野横断型の研究開発をさまざまな立場の「関与者」と連携しながら、成果を社会に還元し実用化（実装）することを重視しており、「情報技術と人間のなじみがとれている社会を目指すために、情報技術がもたらすメリットと負のリスクを特定し、技術や制度へ反映していく相互作用の形成を行うことを目指している」と語った。なお、新領域では、平成28年3～4月にかけての公募設計／領域会議を経て、公募自体は6月ごろの開始を予定している。

この後、講演5題とパネルディスカッションが行われた。

講演「人工知能vs人類」

山形浩生氏（翻訳家・評論家）

山形浩生氏

この講演で、山形氏は人間と機械の関係の見直しの必要性を取り上げた。「機械は人間を滅ぼすのはSFのお気に入りのテーマだが、そもそもなぜ戦わなくてはならないのか」「人類が他の生物を滅ぼすとき、また人間同士の戦争では食料や水、居住地などのリソースの取り合いがその理由となるが、機械との戦いでも同じことが理由になるのか」「機械は知能・意識を生んで、それを自己保存するのか」（図参照）といった、人間の機械の関係を考える上での興味深い命題を山形氏は次々と提示。

また、機械や人工知能が人間にとって意味ある「知識」を作り出すには、機械や人工知能自体が人間の考える「価値」を理解しなければならないことに言及した。一方で、人間は意味がなさそうなものに意味付けすることができるが（例えば、ノイズをジャズやロックと考えられる）、人間にとっての「意味」「価値」と機械や人工知能にとっての「意味」「価値」との差や整合性は何か、さらに技術は純粋に自動化・無人化に向けて発展させるべきか、そこに最大化される「価値」はあるのかを考える必要があると結んだ。

山形 浩生氏スライドより

講演「情報技術の可能性と社会適応時に考慮すべきこと ーロボット工学者の視点から」

早稲田大学理工学術院創造理工学部総合機械工学科　高西淳夫教授

高西淳夫氏

高西教授は、工学の視点から"超スマート社会"の不安定要因を挙げ、工学的なアプローチを安定化に導入できるのではないかという提案を行った。

まず自身が開発している、人間の骨盤運動と脚の弾性を再現する二足歩行ロボット、肺呼吸を模した構造を使ってフルートを演奏するロボット、情動のモデル化による表情表 出ロボットを動画を交えて紹介。

「子どもの頃に漫画などで見た未来はバラ色だったのに、現在の社会はカオス化していてバラ色とは言えない。それは通信・情報処理手段の高度化や爆発的普及が原因ではないか」と疑問を示した。

続いて、高西教授ら工学者にとって思考の源となっている工学のプロセスとしてのモデル化（＝実空間から思考空間への写像法）、フィードバック型の1自由度制御系とヒトの運動制御も含めたフィードバック＋フィードフォワード型の2自由度制御系の原理を説明した上で、「2重振り子のようなシンプルな構造からもカオスが簡単に発生する」として、"超スマート社会"の不安定要因を工学的な視点から解説した（図参照）。

そして、安定的な"超スマート社会"を構築するために、制度改革や不安定化の抑制技術の開発などでカオス化（予測不能性）を回避すること、ヒト・技術・社会制度が連成したモデル構築の努力やそのモデルの発展や自動獲得を促すこと、情報技術情報技術を使いこなすための教育が必要であると強調した。

高西 淳夫氏スライドより

講演「人工知能・著作権・プラットフォーム」

福井健策（弁護士（日本・ニューヨーク州）／日本大学芸術学部　客員教授）

福井健策氏

日米で著作権の専門家として活躍する福井氏は、現在行われている「機械創作」の例として、バッハ・ボット「エミー」による自動作曲、星新一のショートショート1000本の完全解析や米国の通信社のスポーツ記事の自動作成、Googleのストリート・ビューの写真、ドローンによる追尾映像、初音ミクなどを挙げた。

コンピューターによる創作は著作物か、また著作物としたら、そのコンテンツは誰が握るのかという法的な論争について解説した後（図参照）、コンテンツやアクセス情報などを独占するGoogleのような巨大プラットフォームに対抗して、EUが巨大電子図書館の構築やGoogleの分割決議（2014年）などの策を打っていることを紹介した。そこから派生して、日本が巨大プラットフォームに対抗する場合の選択肢としては、文化や漫画といった目的を限定した独自プラットフォームの育成、知財のシステムのリフォーム、ビッグデータやアルゴリズムのオープン化や情報開示の推進、競争政策の積極的な活用が考えられる、と締めくくった。

福井 健策氏スライドより

講演「ロボットスーツHAL ^R の医療応用における健康概念の変更と主観評価アウトカムに関する研究ーサイバニックニューロリハビリテーションの治験実施」

中島孝（独立行政法人国立病院機構新潟病院　副院長）

中島孝氏

中島副院長は、自らが医師主導治験の責任者として遂行した下肢用のロボットスーツHAL ^R （Hybrid Assistive Limb ^R ）（http://www.cyberdyne.jp/products/HAL/）の治験を例に、新しい医療技術を導入する際の治験のあり方や、健康の定義そのものを変えるべきであることと強調した。HAL ^R は筑波大学サイバニクス研究センターの山海嘉之教授が開発した装着型ロボットで、装着者の意図する運動（随意運動）を筋肉をアシストすることで増強する。

神経難病の医師・研究者である中島副院長は平成24年から難治性の神経筋疾患（ALS、筋ジストロフィーなどの8指定難病）について医師主導治験の責任者を務め、昨年11月25日に厚生労働省の承認を取り付けた（今年4月から保険適応開始）。この治験においては、主要評価項目は歩行テスト（2分間で何ｍ歩けるか）であったが、「患者のナラティブを重視するという世界的な流れに呼応して、歩行時の足のつっぱり感、足の上がりやすさ、歩行の安定感について患者の主観評価PRO（Patient-reported outcome）を補充項目として入れた」と説明した上で、PROが上がることは患者だけではなく、医療者にとっても治療や研究開発のモチベーションになると話した。そして、今後はPROの研究の促進と、汎用人工知能（AGI）のマスターアルゴリズムにPROの概念を導入することが重要であると強調した。

また、健康の概念についても見直しを提案。1948年に世界保健機関（WHO）が示した「健康状態とは、身体的、精神的および社会的に完全に良好であることであり、単に病気や病弱でないことではない」が広く普及しているが、患者のナラティブや主観評価により踏み込んだ「社会的、身体的、感情的問題に直面したときに適応し、自ら管理する（何とかやりくりする）能力」（2011 年にMachteld Huber 医学博士が"British Medical Journal"誌で提唱。http://www.bmj.com/content/343/bmj.d4163）が健康の本質であり、「この能力が損なわれたときに支援をするのが医療である」と語った。

さらに、AGIは、新たな臨床研究の方法を作れる可能性があること、AGIのマスタープログラムやsupervisorがない機械学習の結果は人々が見たければ見られるようにしていくべきであることにも言及し、講演を終えた。

中島　孝氏スライドより

「人と科学技術の複雑な関係：過去から未来へ」

久木田水生（名古屋大学大学院情報科学研究科　准教授）

久木田水生氏

久木田准教授は、まずスタンリー・キューブリック監督の映画『2001年宇宙の旅』（1968年公開）の冒頭（猿人が動物の骨を武器にすることを思いつく）シーンを紹介し、テクノロジーが人間の能力を強化・拡張・外化し、さらには思考や意思決定、人格をも強化・拡張・外化したとして、「テクノロジーは単に道具ではなく、私たちを取り囲む環境であり、物理的・心　理的・社会的に相互作用するエージェントになっている」と説明した。

また、テクノロジーが人間と世界の間の「媒介（メディア）」であるという考え方があり、そうであれば、テクノロジーが変化すれば私たちの世界認識の仕方及び世界への働きかけ方が変わる、と指摘した（図参照）。

さらに、心理的な距離が道徳的判断に影響するという心理学の知見があり、テクノロジーが人と人との心理的な距離を近づけるのにも遠ざけるのにも使えることから、「テクノロジーによって他者との心理的距離が広がることで、私たちの共感能力や責任のある行動を難しくなるのではないか」という懸念を示した。

最後に、倫理学者ウェンデル・ウォラックの"Moral Machines, A dangerous Master"から「テクノロジーが人類を導くのではなく、人類がテクノロジーを導くのでなければならない」という言葉を引用。久木田准教授自身がウォラックに「哲学者としてできることは、人々がテクノロジーについてよく知ることを助けることだ」と言われたとして、「しっかりした知識に基づくオープンな議論を促進し、人々の間の信頼を醸成することは、テクノロジーを縛るのではなく、むしろ健全な発展を促す」と締めくくった。

久木田 水生氏スライドより

パネルディスカッション

モデレーター

• 國領二郎（慶應義塾大学総合政策学部　教授）

パネリスト

• 城山 英明（東京大学公共政策大学院・法学政治学研究科　教授）
• 江間 有沙（東京大学教養学部附属　教養教育高度化機構 特任講師）
• 鳴海 拓志（東京大学大学院情報理工学系研究科　助教）
• 高西淳夫（早稲田大学理工学術院創造理工学部総合機械工学科 教授）
• 中島孝（独立行政法人国立病院機構新潟病院 副院長）
• 久木田水生（名古屋大学大学院情報科学研究科　准教授）

パネルディスカッションでは、まず、ここから登壇した城山教授、江間特任講師、鳴海助教がそれぞれ本日のテーマ「人と情報のエコシステム」「情報技術が浸透する超スマート社会の倫理や制度を考える」に関する研究成果や考えを語った。

城山英明氏

城山教授は、政治学や行政学の立場からテクノロジーアセスメント（TA）に携わってきた経験を紹介。新しい技術が社会に導入されるときには、その社会的影響を専門家だけでなく、非政府組織や市民も交えて、多様な価値観を反映しながら可視化し、連携の可能性やよりよい制度設計を探るのがTAで（図参照）、「このRISTEXの新領域自体がTA的な性格を持っている」と指摘した。

また、情報技術やロボットはヨーロッパでは労働問題として取り上げられていること、治療用・介護用ロボットは事故対策や保険制度、データの保護、旧来の労働の対価の配分方法の見直しなどが問題になるだろうと話した。さらに、政策的な意思決定の支援は不可欠だが、一方で、限られた時間と資源の中で行われるため、不完全にならざるを得ないという点も強調した。

城山 英明氏スライドより

江間 有沙氏

江間特任講師は、人工知能が浸透する社会の制度や倫理等を議論する研究グループAIR（Acceptable Intelligence with Responsibility）を紹介した（http://web4ais.wpblog.jp）。AIRは、人工知能学会誌の表紙に掃除する女性型アンドロイドが描かれて物議を醸したことをきっかけとして、江間特任講師が有志と共に2014年に開始した活動だ。人工知能が社会に浸透している現在、技術の設計論や制度・倫理観の再検討は分野を超えた対話が必要だ。

AIRでは、異分野の研究者たちが言葉の定義や研究アプローチのすり合わせを行いながら、対等な立場で共有し、議論している。「1年半の活動を通して問題設定の方法や協同研究の糸口が見えてきた。対話の方法だけではなく、協同研究の枠組み自体の評価・検討プロセスも入れることが重要」と、異分野間の協同・共創の研究と評価も必要であると述べた。

江間 有沙氏スライドより

鳴海 拓志氏

バーチャルリアリティー（VR）の研究者である鳴海助教は、味覚や空腹感をVRで変えるような、新しいリアリティーを作る研究をしている。鳴海助教は現在、人工知能（AI）と、人間の能力を引き出すための対話的支援＝知能増幅（Intelligence Amplification）という概念が融合して、人間拡張（Augmented Human）という研究領域ができつつあると紹介し（図参照）、研究の目的が研究室での研究から社会の実問題を明らかにして評価・研究する方向に移りつつあると指摘した。

また、それには研究を早い段階で社会に見せて、市民から実装化に対する意見をもらうオープンスパイラルモデルが有用で、鳴海助教らが実際に博物館などで研究のデモンストレーションをしている様子も公開した。

鳴海 拓志氏スライドより

続いて、講演者3名もコメントした。高西教授は、人間が機械とつきあう上で、過敏あるいは過剰な反応をしないで全体を見る姿勢、あるいは正常化バイアスがかからないようにする、技術を悪用しないという倫理を教育で身につける必要性を再度強調した。

中島副院長は、自身がかつてフェローとして在籍したNIHの臨床試験センターに倫理学や哲学、心理学、社会学の専門家が入り、学際的なアプローチが普通だったことを紹介した後、患者のナラティブをAGIに組み込んでシミュレーションする新しいタイプの臨床試験を開発したいと抱負を述べた。

久木田准教授は人と情報のより良いエコシステムを作るには、各自が自己の利益を最大化させることだけを考える自由競争ではなく、信頼や共感に基づく協力こそが大切で、その信頼や共感が備わるメカニズムを作動させるのにICTを使えればいい、と話した。

國領二郎氏

ここで、モデレーターの国領教授が、①情報技術が浸透する超スマート社会について、そもそも社会的予測は可能なのか、予測を早めにしすぎて足を引っ張ることはないか、②多様で変化もしていく人間において「価値」や「目的」をどう捉えればいいのか、③技術を変えるだけでいいのか、人間の認識も変えることも必要か、認識を変えるとすれば、教育や倫理など何を変えればいいのか、と3つの問いをパネリストに投げかけ、いずれかに答えてほしいと要望した。

城山教授は「決して想定通りにならないとしても、あらかじめいろいろなシナリオを考えるのが重要であって、それが状況への適応、価値の多様性への理解、他者への寛容につながる」とコメントした。江間特任講師は、「人間の認識を教育や倫理で変える」のではなく、知らないうちにひたひたと変わっている価値観に自ら気づけることが大事であり、そのためにも信頼・安心して議論できる場が重要だと述べた。また、「人自体が変わっていくということを議論の前提に入れること、トップダウンの教育ではなく、体験やそれに基づく理解、想像が必要」と鳴海助教も個人の体験や思考の重要性に言及。高西教授は講演で述べたような社会システムのモデル化の意義を強調し、国民が科学的な目で判断できることが重要であると述べた。中島副院長は「人間は脳の構造で規定されている認識のフィルターを超えられないので、そこを超えたものは作れない」とした上で、「人間には多様性があり、お互いを尊重すれば、認識や構成概念を広げ共有でき、社会を発展させられる」と語った。久木田准教授は「何を大事にするかという価値観も科学技術の進展とともに変わっていく。今の科学技術と整合的な世界像や人間像を作っていくのが人文学者の仕事である」とした。

この後、フロアからの質問に対して、各パネリストのコメントが一巡し、最後に国領教授が「"超スマート社会"は予測不可能であるかもしれず、また、人間の価値観も多様だが、それでも早くから"超スマート社会"について議論をしていくことで、何かが起こったときの過剰反応や暴走に歯止めがかかるだろう。もちろん個人の判断力にも差があることにも配慮が必要になる」とまとめた。

閉会にあたり、津田博司 RISTEX企画運営室 室長が登壇・来場への感謝を述べ、「RISTEXはこれまで顕在化しているものを取り上げてきており、顕在化しない問題が多く存在する情報技術を扱うのはRISTEXにとってもチャレンジングで、運営やファンディングにもダイナミックな取り組みが必要と考えている。本領域自体が内外の技術動向の把握や積極的な外部発信を行い、批評も受けるエコシステムとなりたい。6月中には最初の公募を開始する」と挨拶した。

（記：サイエンスライター　小島あゆみ）