連続シンポジウム報告書 さまざまな分野に広がるトラスト研究、総合知による取り組みへ（１） ～フェイク問題、医療AI、安全保障とトラスト～
エグゼクティブサマリー
2024年4月～6月に開催したJST CRDS連続シンポジウム「さまざまな分野に広がるトラスト研究、総合知による取り組みへ」第1期の内容をまとめた。
デジタル化の進展につれて、バーチャルな空間にも人間関係が広がり、AIのような複雑な技術を用いたシステムへの依存が高まり、だます技術も高度化した。その結果、社会におけるトラスト（信頼）関係にほころびが見られる。この問題は、自動運転車、AIエージェント、生成AI、メタバースなどの新技術・新サービスの社会受容を左右するとともに、フェイク・偽装・なりすまし等による詐欺・犯罪の懸念を高めている。
このような問題意識から、JST CRDSでは総合知による取り組みの必要性を提言し、さまざまな分野に広がるトラスト研究の間の分野横断的な議論・連携の場を設けてきたが、今回、さらに具体的な問題ごとに議論を深める機会として「連続シンポジウム」を企画した。その第1期では、以下の4テーマを取り上げた。
第1回では「フェイクメディアにいかに立ち向かうか」をテーマとして取り上げて、2件の講演とパネル討論を実施した。今日、高度なAI技術の活用によって、人間には見分けることが困難なフェイクメディアを容易に作成できるようになり、その悪用が大きな社会問題を引き起こしつつある。これに立ち向かうための技術開発の必要性が高まっており、その最前線として、TrustedWeb、オリジネーター・プロファイル構想、CREST FakeMedia等の取り組みを紹介いただいた。これら現状の取り組みを踏まえつつ、技術のさらなる発展や複合的活用、制度設計面等も含む今後の方向性について議論した。
第2回では「フェイクニュースと人・社会」をテーマとして取り上げて、3件の講演とパネル討論を実施した。第1回と同様に、高度なAI技術の活用によってますます深刻化するフェイク問題を取り上げたが、第1回はアイデンティティー管理やフェイク検出等の技術的な動向や技術的対策の可能性にウェイトを置いていたのに対して、この第2回では、フェイクニュースの現象を理解するとともに、フェイクが拡散することによる人・社会への影響や、アテンション・エコノミー等の社会経済的なメカニズムとの関係にウェイトを置いて議論した。
第3回では「医療におけるAIとトラスト」をテーマとして取り上げて、2件の講演とパネル討論を実施した。AI技術の活用は医療分野にも広がっているが、AIは精度100%を保証するものではないし、ブラックボックスともいわれる。このようなAIを医師はツールとしてトラストできるのか、AIと医師とで言うことが異なった場合に患者は両者をトラストできるのか、AIに対する過信や不信は医療意思決定をどのように左右するのか、といった論点を交えながら、医師の立場、AI研究者の立場、行動経済学の観点等、異なる分野の専門家の間で議論した。
特別回では、「AIのトラストと安全保障」をテーマとして取り上げて、短めの話題提供をもとに質疑・意見交換を行った。急速な技術発展と応用拡大を示しているAIは、安全保障に関わる場面にも活用が広がっている。AI搭載兵器のようなものが話題になりがちだが、AIが関わる安全保障の場面はもっと幅広い。そこで、人工知能学会倫理委員会と国際政治学者という異なる立場の専門家を招いて、AIと安全保障の関係や国際的な関連政策動向について理解を深めるとともに、トラストの観点も交えて、課題について議論した。
なお、連続シンポジウム第2期は、2025年に開催を予定している。
※本報告書の参考文献としてインターネット上の情報が掲載されている場合、当該情報はURLに併記された日付または本報告書の発行日の1ヶ月前に入手しているものです。