Combatting deepfakes: Policies to address national security threats and rights violations

要約

このペーパーでは、ディープフェイクによる脅威に対処するためのポリシーに関する推奨事項を提供します。
まず、ディープフェイクに関する背景情報を提供し、ディープフェイクがもたらす害を確認します。
ディープフェイクが現在、性的虐待コンテンツの拡散、詐欺行為、有権者の行動操作、国家安全保障への脅威となるためにどのように使用されているかについて説明します。
次に、ディープフェイクに対処するために設計されたこれまでの立法提案をレビューします。
第三に、ディープフェイクのサプライチェーンの複数の部分に対処することに焦点を当てた包括的な政策提案を提示します。
ディープフェイクのサプライ チェーンは、少数のモデル開発者、モデル プロバイダー、コンピューティング プロバイダーから始まり、数十億の潜在的なディープフェイク作成者を含むまで拡大します。
このサプライ チェーンについてさらに詳細に説明し、ディープフェイクの作成と拡散を防ぐためにサプライ チェーンの各段階の企業が合理的な措置をどのようにとるべきかについて説明します。
最後に、私たちの提案に対する潜在的な反論について触れます。
全体として、ディープフェイクは世界の安全保障と個人の自由に対してますます深刻な脅威をもたらすことになるでしょう。
これらの脅威に対処するために、私たちは政策立案者に対し、ディープフェイクのサプライチェーンの複数の部分に対処する法律を制定するよう求めます。

要約(オリジナル)

This paper provides policy recommendations to address threats from deepfakes. First, we provide background information about deepfakes and review the harms they pose. We describe how deepfakes are currently used to proliferate sexual abuse material, commit fraud, manipulate voter behavior, and pose threats to national security. Second, we review previous legislative proposals designed to address deepfakes. Third, we present a comprehensive policy proposal that focuses on addressing multiple parts of the deepfake supply chain. The deepfake supply chain begins with a small number of model developers, model providers, and compute providers, and it expands to include billions of potential deepfake creators. We describe this supply chain in greater detail and describe how entities at each step of the supply chain ought to take reasonable measures to prevent the creation and proliferation of deepfakes. Finally, we address potential counterpoints of our proposal. Overall, deepfakes will present increasingly severe threats to global security and individual liberties. To address these threats, we call on policymakers to enact legislation that addresses multiple parts of the deepfake supply chain.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google