From Principles to Practices: Lessons Learned from Applying Partnership on AI’s (PAI) Synthetic Media Framework to 11 Use Cases

要約

2023 年は世界が生成 AI に目覚めた年であり、2024 年は政策立案者がよりしっかりと対応する年になります。
重要なのは、この政策の勢いは、現実世界での合成メディアの作成と配布と並行して起こっていることです。
ソーシャル メディア プラットフォーム、報道機関、出会い系アプリ、画像生成会社などはすでに AI が生成したビジュアルとサウンドの世界をナビゲートしており、政策立案者が追いつくためにすでに心と考えを変えています。
では、AI ガバナンスは合成メディア環境の複雑さをどのように捉えられるのでしょうか?
ストーリーテリングからプライバシー保護、欺瞞、詐欺、名誉毀損に至るまで、その開発、作成、配布に多くの利害関係者が関与していることを考慮して、合成メディアの無数の用途にどのように対応できるのでしょうか?
そして、表現の自由を強化しながら真実を擁護する方法で合成メディアを管理することは何を意味するのでしょうか?
以下に示すのは、特に、テクノロジーの作成、配布、構築のための自主的で規範的なフレームワークである、合成メディアに関するパートナーシップ オン AI (PAI) の責任ある実践を通じて、これらの質問に答える合成メディア ガバナンスの実装に関するさまざまな例の最初の既知のコレクションです。
このペーパーでは、フレームワークの運用化に役立つ実世界の事例のバンクを紹介し、実際に使用するために合成メディア ガバナンスを適用、強化、拡張、洗練できる領域を強調しています。
これらの事例は、AI 政策立案の明確な要素と、オンラインでの透明性、安全性、表現、デジタルの尊厳をサポートする 7 つの新たなベスト プラクティス (同意、開示、有害なユースケースとクリエイティブなユースケースの区別) を強調しています。

要約(オリジナル)

2023 was the year the world woke up to generative AI, and 2024 is the year policymakers are responding more firmly. Importantly, this policy momentum is taking place alongside real world creation and distribution of synthetic media. Social media platforms, news organizations, dating apps, image generation companies, and more are already navigating a world of AI-generated visuals and sounds, already changing hearts and minds, as policymakers try to catch up. How, then, can AI governance capture the complexity of the synthetic media landscape? How can it attend to synthetic media’s myriad uses, ranging from storytelling to privacy preservation, to deception, fraud, and defamation, taking into account the many stakeholders involved in its development, creation, and distribution? And what might it mean to govern synthetic media in a manner that upholds the truth while bolstering freedom of expression? What follows is the first known collection of diverse examples of the implementation of synthetic media governance that responds to these questions, specifically through Partnership on AI’s (PAI) Responsible Practices for Synthetic Media – a voluntary, normative Framework for creating, distributing, and building technology for synthetic media responsibly, launched in February 2023. In this paper, we present a case bank of real world examples that help operationalize the Framework – highlighting areas synthetic media governance can be applied, augmented, expanded, and refined for use, in practice. Read together, the cases emphasize distinct elements of AI policymaking and seven emergent best practices supporting transparency, safety, expression, and digital dignity online: consent, disclosure, and differentiation between harmful and creative use cases.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google