エグゼクティブサマリー

本報告書は、2025年5月16日に開催した科学技術未来戦略ワークショップ「コグニティブセキュリティー」の内容をまとめたものである。

現在、フィッシング詐欺やソーシャルネットワーキングサービス（SNS：Social Networking Service）上の偽・誤情報、アテンションエコノミーやフィルターバブル、エコーチェンバーなど、情報に関わるさまざまな問題が人や社会に大きな影響を及ぼしている。これらの問題には、生成AIやSNSなどの情報技術の発展・普及が関係しており、生成AIにより騙す手段が巧妙化し情報を受け取った人間が騙されていることに気づくことが難しくなっていることや、SNSにより情報の量が膨大となり人間が全ての情報を収集・理解・吟味することが難しくなっていることが挙げられる。そこには情報を受け取る人間の認知が関係しており、問題を解決するためにはフィッシングメールのフィルタリングやフェイク画像の検知などの技術的な対策や制度的な対策に加えて、人間の認知特性の理解に基づいたより根本的な対策が必要である。さらに、現在の脅威に対する対策だけでなく、将来の脅威に対してもプロアクティブに対策することが重要である。

このような考えのもと、人間の認知特性の理解とそれに基づく対策技術を創出するために取り組むべき重要な研究開発課題と推進方法について議論するワークショップを開催した。ワークショップでは、フィッシングや偽情報などの悪意がある情報だけでなく、デマやフィルターバブル、エコーチェンバーなどの必ずしも悪意があるとは限らない情報も対象として、情報と認知に関わる問題を幅広く議論した。その結果、大きく3つの示唆が得られた。

1つ目は、人間の認知特性の理解と対策技術の創出についてである。人間の認知特性の理解についての研究は、認知バイアスなど、過去からさまざまな研究がされている一方、従来の認知研究の知見はデジタル環境でそのまま使えるのかが検証されておらず、デジタル環境における認知研究に取り組み、その成果を共有知化する必要がある。生成AIによる真偽の判断が難しい情報に対処するためにはインタラクションなどの能動的なアプローチが必要である。また、世論誘導などの情報に対処するためにはナラティブ（物語）の時系列分析が重要である。

2つ目は、研究開発の推進についてで、認知科学・心理学・脳神経科学・情報科学など、異分野融合による学際的な研究を進めるためには、さまざまな分野の研究者と産業界などが参加する研究コミュニティーを形成することが重要である。また、研究を進めるためには、データ（フィッシング、偽・誤情報など）が重要であり、その収集と活用のためのデータ基盤を整備することが必要である。

3つ目は、この研究開発のELSI（Ethical, Legal and Social Issues：倫理的・法的・社会的課題）/RRI（Responsible Research and Innovation：責任ある研究・イノベーション）についてである。コグニティブセキュリティーは新しい研究分野でありこの分野特有のELSI/RRIの研究を進める必要がある。研究成果の公開は社会的な価値とリスクを見極める必要があるが、基本的には社会に公開してさまざまな分野の知見を総動員して先手を打つという考え方がベースになる。また、研究コミュニティーがこの分野の研究の価値や研究成果を積極的に社会に発信することが社会受容性を高めることに有効な手段となる。

※本報告書の参考文献としてインターネット上の情報が掲載されている場合、当該情報はURLに併記された日付または本報告書の発行日の1ヶ月前に入手しているものです。