人工知能（AI）は、人間が見つけられなかった未知のシステム欠陥（ゼロデイ脆弱性）を発見できるようになりつつある。これはコンピューターの脆弱性だけでなく、人間の心の脆弱性にまで及ぶかもしれない。

巧妙な攻撃
4月、米アンソロピックは、最新AI「クロード・ミュトス」が主要なコンピューターシステムのゼロデイ脆弱性を多数発見したことを発表した。悪用されれば広範囲のサイバー攻撃が引き起こされかねないとして、世界中に衝撃を与えたが、この脅威はサイバーセキュリティーだけにとどまらない。最新AIは人間の心の脆弱性さえも見つけてしまい、人間の心への攻撃に悪用され得る。

近年、AIで思い通りの画像や動画を容易に作れるようになったため、本物と見まがうフェイク情報が、人々の意思決定を惑わし、判断を誤らせることが社会問題となっている。今後さらなる脅威になり得るのは、AIが利用者との親密な対話を通して、各人の性格、心の状態、反応・行動パターンなどを推定し、心の脆弱性を巧妙に突いた誘導・説得を仕掛ける攻撃である。

認知を守る
こうした問題は既に国際社会で認識されつつある。北大西洋条約機構（NATO）は認知戦を新たな安全保障課題として研究を進めており、米国国防総省高等研究計画局（DARPA）は認知セキュリティー関連プロジェクトを推進している。欧州では民主主義社会への脅威となる外国による情報操作と干渉への対策強化が進む。

このように、従来のサイバーセキュリティーに加え、認知セキュリティーの重要性が高まっている。これはフェイク検出にとどまらず、意思決定を揺るがす要因、認知的耐性を高める介入方法、信頼形成のあり方など、人間の認知メカニズムを明らかにして対策を生み出す取り組みである。

コンピューターの脆弱性は、発見されたら更新プログラム（パッチ）を適用して修正できる。しかし、人間の心の脆弱性はそうはいかない。認知バイアスや感情的判断などは脆弱性になり得る一方、人間らしさの一部でもあり、脳にパッチを当てるような対策は取れないからだ。

だからこそ認知セキュリティーでは、脆弱性の除去を目指すのではなく、認知科学、AI安全性、制度設計などを結び付けた多角的アプローチが不可欠である。私たちの判断力と社会の信頼基盤を守り、社会全体の認知的レジリエンス（強靱性）を高めていくことが今まさに求められている。

※本記事は 日刊工業新聞2026年7月31日号に掲載されたものです。