Competition and Diversity in Generative AI

要約

最近の証拠は、生成人工知能の使用により、生成されるコンテンツの多様性が低下することを示唆しています。
この研究では、プロデューサーが生成 AI を使用して互いに競争する場合に、コンテンツの均一性が下流に及ぼす影響を調査するためのゲーム理論モデルを開発します。
実際、平衡状態では、プレーヤーは最適なコンテンツよりも多様性の低いコンテンツを作成します。
しかし、競争が激化すると均質性が緩和され、より多様な生産が誘発されます。
おそらくもっと驚くべきことは、単独では (つまり、ベンチマークに従って) 良好なパフォーマンスを発揮する生成 AI モデルが、競争に直面するとパフォーマンスが低下する可能性があり、その逆も同様であることを示しています。
私たちは、言語モデルを使用して Scattergories をプレイすることにより、結果を経験的に検証します。Scattergories は、正しくてユニークな答えを出したプレイヤーに報酬が与えられる単語ゲームです。
競争と同質性の間の相互作用が生成型 AI の開発、評価、使用にどのような影響を与えるかについて説明します。

要約(オリジナル)

Recent evidence suggests that the use of generative artificial intelligence reduces the diversity of content produced. In this work, we develop a game-theoretic model to explore the downstream consequences of content homogeneity when producers use generative AI to compete with one another. At equilibrium, players indeed produce content that is less diverse than optimal. However, stronger competition mitigates homogeneity and induces more diverse production. Perhaps more surprisingly, we show that a generative AI model that performs well in isolation (i.e., according to a benchmark) may fail to do so when faced with competition, and vice versa. We validate our results empirically by using language models to play Scattergories, a word game in which players are rewarded for producing answers that are both correct and unique. We discuss how the interplay between competition and homogeneity has implications for the development, evaluation, and use of generative AI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google