コグニティブセキュリティー ～デジタル社会における自律的な意思決定の支援～
エグゼクティブサマリー
本戦略プロポーザルは、さまざまな情報が氾濫するデジタル社会において、情報サービスの利用者である人間の自律的な意思決定を支援し、悪意のある情報や偏った情報から人や社会を守る、コグニティブセキュリティーの研究開発戦略を提案する。
近年、情報技術の進展に伴い社会のデジタル化が急速に進んだ。AIを悪用すれば、真偽の判断が困難な情報を容易かつ大量に生成することができ、SNSを通じてそれらを広範囲かつ瞬時に拡散することも可能となった。さらに、フィルターバブルやエコーチェンバー現象により、利用者が特定の偏った情報に囲まれる状況が加速している。
このような状況では、人間の認知の隙、すなわち「認知的脆弱性」を狙った巧妙なフィッシングメールやSNS上の偽・誤情報などが脅威となり、個人や組織、社会、さらには国家に悪影響を及ぼしている。
これらの脅威に対処するには、情報システムをサイバー攻撃から守る従来のサイバーセキュリティーのみでは不十分であり、情報を受け取る人間の認知的脆弱性を、脅威から守り、自律的な意思決定を支援する「コグニティブセキュリティー」の確立が不可欠である。
人間の認知的脆弱性を突く情報（脅威情報）に対しては、これまでもさまざまな対策が講じられてきた。しかし、多様化・高度化する脅威に対処するには、脅威情報を利用者に到達させない事前対策のみならず、利用者に到達した時点の即時対策、および到達した後の事後対策を加えた、「広範な対策」が必要である。さらに、後追いの対策ではなく、将来出現しうる新たな脅威への「予見的（プロアクティブ）な対策」も求められる。
これらの対策を実現するため、次の二つの研究開発課題を提案する。
【研究開発課題1】デジタル社会における人間の認知的脆弱性の体系化と原因解明、新たな脅威の予測
デジタル社会における人間の認知的脆弱性を、コグニティブセキュリティーの観点から体系化し、認知的脆弱性の原因解明、および新たな脅威の予測を行う。
【研究開発課題2】人間の認知的脆弱性の知見に基づく対策手法の創出
研究開発課題1で得られた知見を活用し、認知的脆弱性を突く脅威情報から利用者を守り、自律的な意思決定を支援するための対策手法を創出する。
認知的脆弱性の知見を対策手法の創出につなげるには、認知と対策の研究分野を分野横断的に連携させなければならない。その推進方策として、次の二つを提案する。
【推進方策1】コグニティブセキュリティーの研究コミュニティーを通じた分野横断的な研究開発の推進
本研究開発をけん引する研究者が主体となって、分野横断的に連携する「コグニティブセキュリティーの研究コミュニティー」を構築し研究開発を継続的に推進する。
【推進方策2】ファンディングプログラムによる研究開発の加速
推進方策1と並行して、現在顕在化しているフィッシングやSNS上の偽・誤情報などの脅威への対処を急ぐために、問題解決型の目標を設定したファンディングプログラムによって研究開発を加速する。
本研究開発を推進することにより、既知の脅威だけでなく、未知の脅威への対策も可能となる。これにより、利用者の自律的な意思決定を支援し、個人、組織、社会、さらには国家に悪影響を及ぼす問題への対策に寄与することが期待できる。
人間の認知的脆弱性は、文化、価値観、社会規範などに依存する場合があるため、他国の研究成果をそのままわが国に全て適用できるとは限らない。わが国固有の社会的・文化的特性を踏まえ、主体的に研究開発を推進することが不可欠である。
※本報告書の参考文献としてインターネット上の情報が掲載されている場合、当該情報はURLに併記された日付または本報告書の発行年月の1ヶ月前に入手しているものです。