開催日程

2024年4月10日(水)　15:00～17:30

開催形態

オンライン（Zoom）

開催趣旨

デジタル化の進展につれて、バーチャルな空間にも人間関係が広がり、AIのような複雑な技術を用いたシステムへの依存が高まり、だます技術も高度化してしまいました。その結果、デジタル社会と言われる今日において、社会におけるトラスト（信頼）関係にほころびが見られます。この問題は、自動運転車、AIエージェント、生成AI、メタバースなどの新技術・新サービスの社会受容を左右するとともに、フェイク・偽装・なりすましなどによる詐欺・犯罪の懸念を高めています。

このような問題意識から、JST CRDSでは総合知による取り組みの必要性を提言し、様々な分野に広がるトラスト研究の間の分野横断的な議論・連携の機会として、「連続シンポジウム」を企画しました。

その第1回では、「フェイクメディアにいかに立ち向かうか」をテーマとして取り上げて、2件の講演とパネル討論を行います。今日、高度なAI技術の活用によって、人間には見分けることが困難なフェイクメディア（フェイク映像、フェイク音声、フェイク文書など）を容易に作成できるようになり、その悪用が大きな社会問題を引き起こしつつあります。これに立ち向かうための技術開発の必要性が高まっており、その最前線として「Trusted Web」「オリジネーター・プロファイル構想」「CREST FakeMedia」などの取り組みを紹介します。これら現状の取り組みを踏まえつつ、技術のさらなる発展や複合的活用、制度設計面なども含む今後の方向性について議論します。

プログラム

講演概要

「信頼できる情報流通を支えるための技術的アプローチ」（クロサカタツヤ）

2024年1月1日に起きた能登半島地震は、発生当初から岸田首相自ら「デマに注意を」と国民に再三呼びかけるなど、偽・誤情報という社会課題の観点からも重大な事態を招いた。偽・誤情報の流通への対峙は、コンテンツ（情報そのもの）・コンテナ（パッケージ）・コンベア（流通経路）という基本構造に対して、誰がどのように関与するかが重要な論点である。一方でその重要性に対し、それを技術とガバナンスの両方で検証する方法はまだ十分確立・普及していない。本講演ではこうした課題意識を整理するとともに、講演者が官民共同で取り組んでいる「Trusted Web」の取組、及び民間のメディア企業や広告会社との協業で推進する「オリジネーター・プロファイル構想」の現状の成果と今後の見通しを紹介する。

「インフォデミック時代におけるフェイクメディア克服の最前線」（越前功）

顔、音声、身体、自然言語などの人間由来の情報をAIが学習し、本物と見紛うシンセティックメディアの生成が可能になった。シンセティックメディアは、コミュニケーション分野やエンターテイメント分野など様々な用途で活用されている。一方で、シンセティックメディアの負の側面として、詐欺や思考誘導、世論操作を行う目的で、フェイク映像、フェイク音声、フェイク文書といったフェイクメディアを生成、流通させる事例が発生しており、社会に恐怖や混乱を引き起こす不確かな情報の氾濫「インフォデミック」が危惧されている。本講演では、このようなフェイクメディアによる脅威を概説するとともに、講演者らがJSTの戦略事業（CREST）のもとで現在進めている研究プロジェクト、「インフォデミックを克服するソーシャル情報基盤技術」（CREST FakeMedia）の最新の研究成果について紹介する。

参加申込方法

• 事前登録制（参加無料）
  こちらの 「参加登録受付フォーム」からご登録ください。
• 参加登録受付期限：2024年4月8日(月) 23:59

主催

国⽴研究開発法⼈科学技術振興機構（JST）研究開発戦略センター（CRDS）

問い合わせ窓口

　福島 俊一（JST CRDSフェロー）