事業成果

近年、目覚ましい発展を遂げる人工知能（AI）。中でもAIを使った自動運転車の実用化に向けた開発競争が激しさを増している。また、医療分野においては、医師が目視では検出できないような悪性腫瘍を、AIを使った画像認識技術により検出するAI診断なども進められている。その他、あらゆる分野においてAIの利活用が進んでおり、本格的なAI時代を迎えようとしている。

その一方で、最重要課題に直面している。それは、「AIが事故を起こした場合、誰が責任をとるのか」という問題だ。現在、世界中で議論が巻き起こっているものの、解決の糸口は見えていない。

このような中、社会技術研究開発センター（RISTEX）の研究開発領域の1つである「人と情報のエコシステム（HITE）」ではこの課題に対する解決策を見いだすべく、新たな社会システムとして、人間とAIが寄り添って暮らす「なじみ社会」を提案している。この課題は工学や情報学などの科学技術だけでなく、法律・制度、倫理・哲学といった社会科学・人文科学も深く関与することから、HITEでは、浅田稔特任教授、河合祐司特任講師らロボット工学の専門家に加え、法律を専門とする稲谷龍彦准教授、脳科学や心理学を専門とする葭田貴子准教授、哲学を専門とする松浦和也准教授などが連携してこの課題に取り組んでおり、この点が大きな特徴となっている。

判断のスピードや細かさにおいてはAIが人間を上回る領域がある一方で、AIの判断が100%正しいとは限らない。また、人間が簡単に判断できる事象であっても、AIにとっては判断が難しいものもある。しかし、特に自動運転中の判断ミスや画像診断での重大な誤診は、人間の命にかかわる重大な問題だ。また、AIと人間が一緒になって動く場合には、どこまでがAIの判断による行動なのかを線引きするのも難しい。例えば、身体に装着して動作などを支援するロボットスーツなどは、それを装着する使用者もロボットの操作に関与するため、万が一事故が発生した場合、人間の誤操作によるものなのか、AIの誤作動によるものなのかを区別するのは困難だ。

このように、人間と機械の境界が曖昧になっていく中、誰が特定の行為を実行したかという「主体」と「責任」をどう捉えていくべきかが、最重要課題となってきている。人間の判断ミスや誤操作による事故であれば、刑事訴追ができる。しかし、現行の刑事法では、一人一人が自分の意志で判断し、行為する人間、いわば「自由意志を持った人間」を最初に想定しており、「完全な自由意志を備えた主体（ここでは、人間）による完全な客体（ここでは、AIを搭載した機械）のコントロール」という図式を前提としている。AIや脳科学が急速に進展する中、例えば、人間に本当に自由意志があるのかといった、この図式そのものを根幹的に問い直す時期に来ているとの議論も起こっており、刑事法を見直す必要性に迫られている。

この課題に対し、HITEでは、ロボット工学者、法学者、脳科学者、哲学者が連携し、新しい時代の倫理と法制度を探求するとともに、「なじみ社会」を提案している。なじみ社会とは、人間とAIを搭載した機械のどちらかが一方を使役するのではなく、対等な立場で、人間とAIが協調しながら相互に信頼し合って暮らす共生社会である。

まず、浅田特任教授・河合特任講師ら科学技術分野の研究者が、AIのさまざまな自律性のレベルについて考察するとともに、人間とのインタラクションを測定。人間が、AIを搭載した機械とインタラクションする際に抱く印象や責任の感じ方を検証している。一方、稲谷准教授を中心とする法学の研究グループが、なじみ社会におけるAIの特性に応じた刑事司法制度の実現に向けた検討を行っている。

脳科学と心理学を専門とし、人間と一緒に動作する機械やシステムを開発している葭田准教授、哲学を専門とする松浦准教授の協力を得ながら、事故の被害者の心情へも配慮した、より広い社会的合意を得られる法制度の設計を目指している。

今後、AIを搭載した機械が我々の生活の中に深く入り込んでいくことが想定される中、HITEでは、新しい時代の倫理と法制度を探求しつつ、一般市民への啓発活動などを精力的に行っていく。特に、「社会はどうあるべきか」ではなく、「どうありたいか」について議論を深めていく。「私はAIとこう生きたい」という一人一人の思いを実現するようななじみ社会を提言すべく、啓発活動を通じてパブリックコメントを収集し、それを反映させていく計画だ。