Deepfake Detection: A Comprehensive Study from the Reliability Perspective

要約

インターネット上で流通しているディープフェイクの合成素材は、政治家、有名人、そして地球上のすべての人間に深刻な社会的影響を与えています。
この調査では、既存のディープフェイク検出研究を信頼性の観点から徹底的にレビューします。
現在のディープフェイク検出研究ドメインの信頼性指向の研究課題は、転送可能性、解釈可能性、堅牢性の 3 つの側面で定義されています。
3 つの課題に関して解決策が頻繁に取り上げられてきましたが、検出モデルの一般的な信頼性はほとんど考慮されておらず、実際の使用法や法廷でのディープフェイク関連の訴訟でさえ、信頼できる証拠が不足しています。
したがって、統計的ランダム サンプリングの知識と公開されているベンチマーク データセットを使用してモデルの信頼性調査メトリックを導入し、任意のディープフェイク候補の容疑者に対する既存の検出モデルの信頼性を確認します。
この調査でレビューしたように、確実に認定された検出モデルの助けを借りて、被害者のさまざまなグループを含む実際のディープフェイク事件を正当化するために、ケーススタディがさらに実行されます。
既存のアプローチに関するレビューと実験は、有益な議論とディープフェイク検出の将来の研究の方向性を提供します。

要約(オリジナル)

The mushroomed Deepfake synthetic materials circulated on the internet have raised serious social impact to politicians, celebrities, and every human being on earth. In this survey, we provide a thorough review of the existing Deepfake detection studies from the reliability perspective. Reliability-oriented research challenges of the current Deepfake detection research domain are defined in three aspects, namely, transferability, interpretability, and robustness. While solutions have been frequently addressed regarding the three challenges, the general reliability of a detection model has been barely considered, leading to the lack of reliable evidence in real-life usages and even for prosecutions on Deepfake-related cases in court. We, therefore, introduce a model reliability study metric using statistical random sampling knowledge and the publicly available benchmark datasets to review the reliability of the existing detection models on arbitrary Deepfake candidate suspects. Case studies are further executed to justify the real-life Deepfake cases including different groups of victims with the help of the reliably qualified detection models as reviewed in this survey. Reviews and experiments upon the existing approaches provide informative discussions and future research directions of Deepfake detection.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google