エッセイ #13「機械の犯すミスを人間、社会が受け入れることができるのか」

言説化の取り組み | 2024年9月20日

中野公彦　東京大学生産技術研究所教授

2020年度採択　中野PJ「ELSIを踏まえた自動運転技術の現場に即した社会実装手法の構築」

ELSIプログラムのプロジェクト「ELSIを踏まえた自動運転技術の現場に即した社会実装手法の構築」を通じて、2020から2023年度にかけて、自動車の自動運転という新興技術を社会に実装する際のELSI課題の検討を行った。その際の根源的な問いがタイトルにもなっている「機械の犯すミスを人間、社会が受け入れることができるのか」である。自動運転を社会に実装する際には、自動運転車が安全であることが前提である。ただし、残念ながら事故を起こすリスクをゼロにすることはできない。誰も事故を起こしたくはない。科学の産業応用を目指す工学者にとっては、重い課題である。

社会実装の際に求められる安全とは何かを決めることは難しい。統計的に人間が運転する自動車よりも安全であることを示すこと、すなわち、過去のデータから単位距離あたりの事故件数が手動運転車よりも自動運転車の方が少ないことを示すことが１つの考え方である。しかし、事故の被害者にとってみれば、他の事故件数の多寡は問題ではなく、事故の被害に対する補償がなされることが重要であり、さらに人的被害がある場合は、責任をとる人がいないということは受け入れがたいものとなる。事故の被害に対する補償については、本プロジェクトにおいても明治大学に所属する研究者を中心に検討してきており、将来に向けて制度設計がなされるものと期待している。ただし、事故が生じた際の責任の在り方については、法的課題として以外に、倫理的、および社会的課題としての議論も必要であった。事故件数の減少は、自動運転の安全性を示す指標の１つになりえるが、機械に作業を行わせる場合、一般の人々は機械に完璧さを求める傾向がある。統計データだけで安全性を議論することは、倫理的観点から十分であると言えず、人々の納得も得られない可能性がある。

高齢者が増える中で自家用車利用を前提にした移動方法に限界が感じられる一方、事業性悪化、運転士不足などの理由で公共交通の維持が困難になっている。そのような背景から、自動運転の社会実装への期待は高まっているが、期待の方が先行して大きくなっていると感じられる。自動運転技術への期待が過度になれば、リスクが十分に理解されないまま社会実装され、ひとたび事故が起きれば、社会から排除される可能性もある。重要なことは、自動運転技術の現状が適切に理解されることである。そのため、本プロジェクトにおいては、双方向の科学コミュニケーションを重視した活動を行ってきた。

著者は自動運転の社会実装を目指した研究開発に携わりながら、根源的な問いへの答えを探してきた。自動運転車が走行する際に発生すると想定されるリスクを挙げ、それへの対応方法を事前に検討することが対応法の１つであると考える。その作業量は膨大であり、リスクがすべて挙げられたことを誰も保証できないので、結局は、事故のリスクをゼロにすることはできない。不幸にも事故が起きた時は、その原因を分析し、システムを改良し、その作業を繰り返すことによって安全性を高めることによって、徐々に社会に浸透していくことを期待することになる。

安全は最優先事項であり、最大限の努力が払われるべきである。また、事故に対しては、責任の所在を明らかにすることも必要である。ただし、新興の科学技術が社会実装されることによって起きる、イノベーションの営みによる利益を社会が享受するためには、起きてしまった事故の分析・調査を行い、再び同様の事故を発生させないようにすることが重要である。詳しくは、日本学術会議「人間と工学研究連絡委員会安全工学専門委員会」によって発出された「事故調査体制の在り方に関する提言」*1（平成17年6月23日）に記載されているが、独立性を持った機関により、同種の事故の再発を防止し、安全性を向上させることを目的とした事故調査が行われる必要がある。事故が発生した時は大きく報道され、社会の関心も高いが、事故調査が行われ再発防止策が出てくるころには、関心が薄れてしまうことが多い。過失に対して責任を取ることや、金銭面で補償することも必要であるが、再発を防止し、安全性を向上させることにも、もっと注意が払われるべきである。

新興技術を社会実装する際には、透明性のある議論を通じて、社会が得る便益と、リスクがゼロではないという負の面が適切に理解される必要がある。その後、安全維持に対して不断の努力が続けられる一方で、事故が起きてしまった時には、被害者への補償と再発防止がなされ、安全性の向上が図られるという活動のサイクルが回るようであれば、リスクがゼロではない新興技術を社会が受け入れることができると思っている。

*1人間と工学研究連絡委員会安全工学専門委員会報告事故調査体制の在り方に関する提言

エッセイ一覧に戻る言説化の取り組みへ戻る