連続シンポジウム報告書 さまざまな分野に広がるトラスト研究、総合知による取り組みへ（2） ～AI・ロボット/自動運転/デモクラシー/LLMハルシネーション/コグニティブセキュリティーとトラスト～
エグゼクティブサマリー
2025年6月～11月に開催した連続シンポジウム「さまざまな分野に広がるトラスト研究、総合知による取り組みへ」の第2期全5回の内容をまとめた。
デジタル化の進展につれて、人間関係がバーチャルな空間にも広がり、AI（人工知能）のような複雑な技術を用いたシステムへの依存が高まり、だます技術も高度化してしまった。その結果、デジタル社会といわれる今日において、社会におけるトラスト（信頼）関係にほころびが見られる。さまざまな新技術・新サービスの社会受容を左右するとともに、フェイク・偽装・なりすましなどによる詐欺・犯罪の懸念を高めている。また、「人工知能基本計画：信頼できるAIによる日本再起」や「DFFT（Data Free Flow with Trust）」など、国の戦略・政策においてもトラストが掲げられている。
そこで、JST CRDSでは総合知による取り組みの必要性を提言し、さまざまな分野に広がるトラスト研究の間の分野横断的な議論・連携の場を設けてきた。さらに具体的な問題ごとに議論を深める機会として連続シンポジウムを実施している。2024年度に第1期4回、2025年度に第2期5回を開催した。本報告書では、第2期の以下の5テーマを取り上げている。
(1)Human-Robot/Agent Interactionとトラスト
AI技術の発展により、ロボットやAIエージェントは、人間の助手や仕事のパートナーの役割を担うようになり、人間と協働・共生するような将来社会像もしばしば描かれる。ロボットやAIエージェントと人間の間のトラスト関係はどのような形で成立し得るのだろうか。〈弱いロボット〉と信頼較正の話題をもとに、人間とロボットやAIエージェントとのより良い協働・共生に向けた課題をトラストの観点から論じた。
(2)デモクラシーとトラスト
情報技術を活用することで多様な人々の意見を集めやすくなった反面、SNSを用いた個人による情報発信・拡散やAI技術を用いたフェイク生成の容易化などによって、真偽不明の情報氾濫、選挙干渉、世論誘導・扇動などが起き、デモクラシー、特に世論・集団意見の形成に大きな影響を与えている。このような現象や状況を把握・理解するとともに、対策の可能性について、社会科学と情報科学の両面から論じた。
(3)自動運転とトラスト
自動運転技術は急速に発展し、社会実装に向けた取り組みが世界各地で加速しているが、その普及には安全性・信頼性の確保と、人間による信頼・受容の両面が不可欠である。そこで、ソフトウェア工学の観点（客観面）と、ヒューマンファクターの観点（主観面）の両面をクロスして、信頼される自動運転について議論した。
(4)LLMハルシネーション問題
生成AI（大規模言語モデルLLM）は、まるで専門家の知識・スキルを備えているような応答を返すが、一見もっともらしく思える誤情報（ハルシネーション）が交じることがあり、それを信じてしまったことで問題・被害に遭うという事例も生じている。その状況や原因を探るという観点と、検知・抑制するための対策という観点から議論した。
(5)コグニティブセキュリティーとトラスト
情報社会の進展、SNSや生成AIの利用の広がりに伴い、偽・誤情報の拡散、フィッシングやなりすましによる詐欺などの被害が拡大している。今日、サイバー攻撃の対象はシステムだけでなく、人間の認知へと広がった。そこで、認知の特性・脆弱性を理解し、自律的な意思決定を維持するためのコグニティブセキュリティーを取り上げ、トラストの観点を交えて議論した。
※本報告書の参考文献としてインターネット上の情報が掲載されている場合、当該情報はURLに併記された日付または本報告書の発行年月の1ヶ月前に入手しているものです。