要約
最近の議論では、言語モデルが特定の視点を好むのではないかという懸念が提起されている。しかし、その解決策が「どこからでもない視点」を目指すことではなく、異なる視点を活用することだとしたらどうだろうか？我々は、多元的なAI熟議のためのシステムとPythonライブラリであるPluralsを紹介する。Pluralsはエージェント（LLM、オプションでペルソナ付き）で構成され、カスタマイズ可能な構造（Structures）の中で審議を行い、モデレーター（Moderators）が審議を監督する。Pluralsはシミュレーションされた社会的アンサンブルを生成します。Pluralsは、政府データセットと統合して全国代表的なペルソナを作成し、民主的熟議理論にインスパイアされた熟議テンプレートを含み、ユーザーは情報共有構造と構造内の熟議行動の両方をカスタマイズすることができる。6つのケーススタディにより、理論構成への忠実性と有効性が実証されている。3つの無作為化実験では、シミュレートされたフォーカスグループが、関連するオーディエンスのオンラインサンプルと共鳴するアウトプットを生成した（試行の75%でゼロショット生成よりも選択された）。Pluralsは多元的AIのパラダイムであり、具体的なシステムでもある。Pluralsライブラリはhttps://github.com/josh-ashkinaze/plurals。
要約(オリジナル)
Recent debates raised concerns that language models may favor certain viewpoints. But what if the solution is not to aim for a ‘view from nowhere’ but rather to leverage different viewpoints? We introduce Plurals, a system and Python library for pluralistic AI deliberation. Plurals consists of Agents (LLMs, optionally with personas) which deliberate within customizable Structures, with Moderators overseeing deliberation. Plurals is a generator of simulated social ensembles. Plurals integrates with government datasets to create nationally representative personas, includes deliberation templates inspired by democratic deliberation theory, and allows users to customize both information-sharing structures and deliberation behavior within Structures. Six case studies demonstrate fidelity to theoretical constructs and efficacy. Three randomized experiments show simulated focus groups produced output resonant with an online sample of the relevant audiences (chosen over zero-shot generation in 75% of trials). Plurals is both a paradigm and a concrete system for pluralistic AI. The Plurals library is available at https://github.com/josh-ashkinaze/plurals and will be continually updated.
arxiv情報
| 著者 | Joshua Ashkinaze,Emily Fry,Narendra Edara,Eric Gilbert,Ceren Budak |
| 発行日 | 2024-11-01 02:08:03+00:00 |
| arxivサイト | arxiv_id(pdf) |