※研究者の所属・肩書および参画企業等記載は課題採択または記事掲載時のものであり、現在とは異なる場合があります。
ICT・電子デバイス
製品化／起業
キーワード ：
生成AI、フェイクメディア、ディープフェイク
研究成果最適展開支援プログラム（A-STEP） トライアウトタイプ
研究開発課題名
AIにより生成された顔映像フェイクメディアを検出する技術の確立（開発期間：令和3年5月～令和4年3月）
製品化企業名 株式会社サイバーエージェント 研究者 越前 功（国立情報学研究所）
製品化企業名 株式会社サイバーエージェント 研究者 越前 功（国立情報学研究所）
生成AIによるフェイクメディアの拡散が深刻な社会問題となっている中、国立情報学研究所の越前と山岸らによる研究成果である「フェイク顔映像の判定を行う深層学習モデル」を社会実装するために、真贋判定を行う映像のサーバーへのアップロードから、判定結果を示した映像をダウンロードするまでの全てのプロセスを簡便に利用可能なフェイク顔映像の自動判定プログラム「SYNTHETIQ VISION」（シンセティックビジョン）を開発した。
SYNTHETIQ VISIONは2021年9月の発表後、多くの問い合わせがあり、これまで、複数の国内企業に有償ライセンスを実施している。2023年1月には、サイバーエージェントが著名人のDeepfake検出サービスにSYNTHETIQ VISIONを実採用した。これはフェイク顔映像判定の国内初の実用例である。
期待されるインパクト（効果、意義、市場規模、売り上げ予測）
フェイク顔映像判定の国内初の実用化をきっかけに、エンターテイメント業界、報道機関、金融機関、フォレンジック事業者など多様な企業への適用が期待されている。また、本成果をきっかけに複数の国プロが立ち上がり、顔映像以外のモダリティに対する判定手法についても研究開発を行っている。開発者の声
本成果は、多くのメディアでも取り上げられ、フェイクメディア拡散を防ぐ基盤技術として注目の高さが伺える。A-STEPの支援により、プログラム開発の支援のみならず、国内企業への迅速な導入が可能となった。ライセンス先の企業からの要望に応じて、引き続きプログラムの改良を進めることで、安心安全なサイバー社会の実現に貢献したい。●AIにより生成されたフェイク顔映像を自動判定するプログラム SYNTHETIQ: Synthetic video detectorを開発～AI動画の生成、フェイクメディアの検知、メディアの信頼性確保の研究を推進～[2021年9月]
●AIが生成したフェイク顔映像を自動判定するプログラム 「SYNTHETIQ VISION」をタレントのDeepfake映像検知に採用～フェイク顔映像の真偽自動判定では国内最初の実用例～[2023年1月]
