高度な機械ベースのアルゴリズム、強力な計算プラットフォーム、人工知能が近年、急速な進歩を遂げていることに伴い、ソーシャルメディアやニュースプラットフォーム上で、いわゆる「ディープフェイク」がつくられ、拡散する事例が大幅に増加しています。ディープフェイクとは、人間の容貌や様子を合成・巧妙に処理して、その情報を受け取った人がそれを本物で信用できるものと判断してしまうほどに再現することです。このワークショップでは、ディープフェイクの背景にある技術や、コンピュータや人間がどのようにしてディープフェイクの産物を識別し得るかを説明し、ディープフェイクの社会的、法的、犯罪的な意味合いについて議論します。今回、人の声を合成して複製することを例にして、ディープフェイクの実演を行い、ご参加の皆様にはインタラクティブなディープフェイクを探知するゲームを体験していただきます。

With the rapid evolvement of advanced machine-based algorithms, powerful computations platforms, and artificial intelligence in recent years, there was a massive increase in the creation and dissemination of so-called “deepfakes” in social media and news platforms. Deepfakes concern the synthetic and manipulative recreations of human appearances such that recipients of this deepfake information would appraise it as real and trustworthy. In our workshop we show the technology behind deepfakes, how computers and humans could potentially identify deepfake creations, and we discuss the social, legal, and criminal implications of deepfakes. We demonstrate deepfakes especially with the example of synthetically cloning human voices, and we will involve the audience in interactive deepfake detection games.