成果概要
最終更新日:
アバターを安全かつ信頼して利用できる社会の実現[5] CA安全・安心確保基盤の構築
2025年度までの進捗状況
1. 概要
サイバネティック・アバター(CA)を安全かつ信頼して利用できる社会の実現に向けてCA安全・安心確保基盤の構築を目指し、①CA認証技術研究、②CA安全・安心確保基盤構築設計、③敵対的攻撃対策技術開発、④CAログベース遠隔操作者認証・CA認証技術開発に取り組みました。
2. これまでの主な成果
① CA認証技術研究
世界最大のモダリティ数となるマルチモーダルバイオメトリクス及びマルチモーダル継続認証データセット、世界初の遠隔対話シーン、アバターとの対話シーンのデータセットを構築しました。上述のデータベースを活用し、(1)顔継続認証、(2)非識別化顔合成の基本技術を構築しました。
(1) 顔継続認証
ログイン時に本人認証を行なっても、CA操作途中での乗っ取りの危険があります。そこで、操作途中の見守り技術として時系列生体データによる継続認証技術の研究を行っています。ここでは、操作時に通常操作目的で観察している顔映像、脳波に着目した技術を研究しています。
顔映像は、通常の遠隔操作場面を模擬したデータセットでの性能評価でRANK-1認証100%が実現しました。40%-80%顔が隠れている場合でもRANK-1 99.985%が実現できています。音声と顔を用いることができる場合は、さらにRANK-1 99.999%と高精度化ができました。脳波は、しりとりゲームを行なっている時の思考中の無音時データを使うことで、RANK-1 99.28%の精度で認証できました。
(2)非識別化顔合成
多くのCAサービスでは「遠隔操作者-CA-ユーザ」の一連の流れの中で、顔映像がネットワークを介して伝送されます。顔映像流出を困難にする顔データそのものの保護が重要です。ここでは、「見た目はそっくりだが、AIによる認証が困難なCG顔画像」の実時間合成技術を研究しています。16体のアバター生成において、3Dアバター生成の高速化(10倍)、データ容量縮小(約85%減)を実現しました。
② CA安全・安心確保基盤構築設計
CAの社会実装が進展した「CA共生社会」におけるセキュリティリスクの洗い出しを実施しました。本年度は、特にCAのM×N操作環境(M人の遠隔操作者がN体の人型CAを操作する環境)において新たに生じるセキュリティ課題の発見と解決に取り組みました。具体的には、「複数の不正操作者が結託し、複数のCAを悪用して被害者に対し劇場型詐欺を仕掛ける」という新たな脅威モデルを想定し、そのリスクに対する緩和策として、対話相手のCAがM×N操作環境下にあるか否かを判定する「M×N操作判定テスト」を提案しました。対話相手のCAの発話特徴から、「M×1操作(複数の操作者が1体のCAを操作する)」ならびに「1×N操作(1人の操作者が複数体のCAを操作する)」の可能性を測定します。現時点では一般的なCGアバターを直接遠隔操作する形態に対象を限定した基礎検討の段階ですが、複数のCAを悪用した高度なソーシャルエンジニアリング(SE)攻撃のリスクを検知・警告するアラートシステムの実現に向けた端緒となる技術的知見が得られました。本成果は、VR(仮想現実)分野の国際会議IEEE VR(Virtual Reality)2026のワークショップにおいて発表されました。
③ 敵対的攻撃対策技術開発
CA安全・安心確保基盤に対する敵対的攻撃対策技術の開発を目的として、M×N操作環境における脅威モデルの構築と対策技術の検討を進めました。1×N操作環境を対象に、アバター操作切り替えの脆弱性を悪用したSE攻撃の脅威分析を行い、CA共生社会における新たな攻撃手法とそのリスクを明らかにしました。また、M×N操作における敵対的攻撃に対する脅威モデル・評価方法の確立に向けた基礎を構築しました。
さらに、顔認証の安全性強化を目的として、Vision Transformerを活用した顔なりすまし攻撃検出技術を開発しました。具体的には、Vision Transformerの中間特徴量を活用したなりすまし検出手法を提案するとともに、ACER(攻撃検知率)を最適化した単一モデルにより多様なプレゼンテーション攻撃に対応する汎用的な顔なりすまし検出手法を開発しました。本成果はCVPR Workshops 2025およびICCV Workshops 2025で発表され、Face Anti-Spoofing Challengeにおいて6位入賞するなど、CA認証基盤における敵対的攻撃対策技術として高い有効性を示しました。加えて、ISO/IEC 26247へのNWIP提案やISO/IEC 25456の策定への参画を通じ、国際標準化活動にも貢献しました。
④ CAログベース遠隔操作者認証・CA認証技術開発
CAログベース認証は、CAを操作・利用することで生成されるログデータを、比較的長期的な観点で分析することで実現されます。オンラインサービスのログデータや、本プロジェクト内のサービスで収集可能なウェアラブルデバイスのログデータ、およびロボットアーム操作ログデータを活用したログベース認証技術を開発しました。
オンラインサービスで生成されるログを活用した認証技術においては、360人のデータで約98%の認証精度を得ることに成功しました。これは従来のログを活用するリスクベース認証の精度とは、一線を画するものとなります。また転移学習技術を応用し、異なるサービスのログデータを活用することで認証精度が向上可能なことを発見しました。この発見は、サービス非依存で汎用的なCAログベース認証手法の実現可能性を示唆しています。ウェアラブルデバイスや、ロボットアームのログデータを活用した認証技術においても、90%程度の認証精度を得ることに成功しています。CAログベース認証手法は他の認証手法を補完する仕組みであり、我々が得た認証精度は安全なCA利用に大いに寄与するものです。
3. 今後の展開
研究開発項目4と連携して上記の成果を他プロジェクトに共有し、CAサービスの社会実装に貢献します。