第1回「フェイクメディアにいかに立ち向かうか」
開催日程
2024年4月10日(水) 15:00~17:30
開催形態
オンライン(Zoom)
開催趣旨
デジタル化の進展につれて、バーチャルな空間にも人間関係が広がり、AIのような複雑な技術を用いたシステムへの依存が高まり、だます技術も高度化してしまいました。その結果、デジタル社会と言われる今日において、社会におけるトラスト(信頼)関係にほころびが見られます。この問題は、自動運転車、AIエージェント、生成AI、メタバースなどの新技術・新サービスの社会受容を左右するとともに、フェイク・偽装・なりすましなどによる詐欺・犯罪の懸念を高めています。
このような問題意識から、JST CRDSでは総合知による取り組みの必要性を提言し、様々な分野に広がるトラスト研究の間の分野横断的な議論・連携の機会として、「連続シンポジウム」を企画しました。
その第1回では、「フェイクメディアにいかに立ち向かうか」をテーマとして取り上げて、2件の講演とパネル討論を行います。今日、高度なAI技術の活用によって、人間には見分けることが困難なフェイクメディア(フェイク映像、フェイク音声、フェイク文書など)を容易に作成できるようになり、その悪用が大きな社会問題を引き起こしつつあります。これに立ち向かうための技術開発の必要性が高まっており、その最前線として「Trusted Web」「オリジネーター・プロファイル構想」「CREST FakeMedia」などの取り組みを紹介します。これら現状の取り組みを踏まえつつ、技術のさらなる発展や複合的活用、制度設計面なども含む今後の方向性について議論します。
プログラム
15:00~15:10 | 開催趣旨説明 福島 俊一(科学技術振興機構 研究開発戦略センター) |
---|---|
15:10~16:00 | 「信頼できる情報流通を支えるための技術的アプローチ」 クロサカタツヤ(慶應義塾大学大学院 政策・メディア研究科 特任准教授 / 株式会社 企(くわだて) 代表取締役) |
16:00~16:50 | 「インフォデミック時代におけるフェイクメディア克服の最前線」 越前 功(国立情報学研究所 教授) |
16:50~17:30 | パネル討論 モデレータ:福島 俊一(科学技術振興機構 研究開発戦略センター) ディスカッサント:相澤 彰子(国立情報学研究所 教授 / JST CREST「信頼されるAIシステム」研究総括) パネリスト:クロサカタツヤ、越前功 |
講演概要
「信頼できる情報流通を支えるための技術的アプローチ」(クロサカタツヤ)
2024年1月1日に起きた能登半島地震は、発生当初から岸田首相自ら「デマに注意を」と国民に再三呼びかけるなど、偽・誤情報という社会課題の観点からも重大な事態を招いた。偽・誤情報の流通への対峙は、コンテンツ(情報そのもの)・コンテナ(パッケージ)・コンベア(流通経路)という基本構造に対して、誰がどのように関与するかが重要な論点である。一方でその重要性に対し、それを技術とガバナンスの両方で検証する方法はまだ十分確立・普及していない。本講演ではこうした課題意識を整理するとともに、講演者が官民共同で取り組んでいる「Trusted Web」の取組、及び民間のメディア企業や広告会社との協業で推進する「オリジネーター・プロファイル構想」の現状の成果と今後の見通しを紹介する。
「インフォデミック時代におけるフェイクメディア克服の最前線」(越前功)
顔、音声、身体、自然言語などの人間由来の情報をAIが学習し、本物と見紛うシンセティックメディアの生成が可能になった。シンセティックメディアは、コミュニケーション分野やエンターテイメント分野など様々な用途で活用されている。一方で、シンセティックメディアの負の側面として、詐欺や思考誘導、世論操作を行う目的で、フェイク映像、フェイク音声、フェイク文書といったフェイクメディアを生成、流通させる事例が発生しており、社会に恐怖や混乱を引き起こす不確かな情報の氾濫「インフォデミック」が危惧されている。本講演では、このようなフェイクメディアによる脅威を概説するとともに、講演者らがJSTの戦略事業(CREST)のもとで現在進めている研究プロジェクト、「インフォデミックを克服するソーシャル情報基盤技術」(CREST FakeMedia)の最新の研究成果について紹介する。
参加申込方法
- 事前登録制(参加無料)
こちらの 「参加登録受付フォーム」からご登録ください。(※受付終了) - 参加登録受付期限:2024年4月8日(月) 23:59
主催
国⽴研究開発法⼈科学技術振興機構(JST)研究開発戦略センター(CRDS)
問い合わせ窓口
福島 俊一(JST CRDSフェロー)