Watermark-based Detection and Attribution of AI-Generated Content

要約

Google、Microsoft、OpenAI などのいくつかの企業は、AI が生成したコンテンツに透かしを入れる技術を導入して、事前の検出を可能にしています。
ただし、既存の文献は主にユーザーに依存しない検出に焦点を当てています。
アトリビューションは、AI 生成として検出された特定のコンテンツを生成した生成 AI サービスのユーザーをさらに追跡することを目的としています。
重要性が高まっているにもかかわらず、帰属はほとんど解明されていません。
この研究では、AI が生成したコンテンツの透かしベースのユーザー認識検出と属性に関する初の体系的な研究を提供することで、このギャップを埋めることを目指しています。
具体的には、厳密な確率分析を通じて検出と属性のパフォーマンスを理論的に研究します。
さらに、アトリビューションのパフォーマンスを向上させるために、ユーザーのウォーターマークを選択する効率的なアルゴリズムを開発します。
私たちの理論的結果と経験的結果の両方は、透かしベースの検出と属性が透かし手法の精度と（非）堅牢性の特性を継承していることを示しています。

要約(オリジナル)

Several companies–such as Google, Microsoft, and OpenAI–have deployed techniques to watermark AI-generated content to enable proactive detection. However, existing literature mainly focuses on user-agnostic detection. Attribution aims to further trace back the user of a generative-AI service who generated a given content detected as AI-generated. Despite its growing importance, attribution is largely unexplored. In this work, we aim to bridge this gap by providing the first systematic study on watermark-based, user-aware detection and attribution of AI-generated content. Specifically, we theoretically study the detection and attribution performance via rigorous probabilistic analysis. Moreover, we develop an efficient algorithm to select watermarks for the users to enhance attribution performance. Both our theoretical and empirical results show that watermark-based detection and attribution inherit the accuracy and (non-)robustness properties of the watermarking method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google