Generative Social Choice

要約

従来、社会的選択理論は、あらかじめ決められたいくつかの選択肢の中からの選択にのみ適用でき、テキストのステートメントを集団で選択するなど、より複雑な決定には適用できませんでした。
私たちは、社会的選択理論の数学的厳密性と、テキストを生成して好みを推定する大規模な言語モデルの機能を組み合わせたフレームワークである、生成的社会的選択を紹介します。
このフレームワークは、AI で強化された民主的プロセスの設計を 2 つのコンポーネントに分割します。1 つは、オラクル クエリへのアクセスが与えられたときに、そのプロセスが厳密な表現保証を満たしていることを証明することです。
2 番目に、これらのクエリが大規模な言語モデルを使用してほぼ実装できることを経験的に検証します。
このフレームワークを、自由形式のテキストとして表現された意見を表すステートメントのスレートを生成する問題に適用します。
具体的には、代表保証を備えた民主的なプロセスを開発し、このプロセスを使用してチャットボットのパーソナライゼーションに関するアンケートの参加者の意見を代表します。
参加者 100 人中 93 人が、抽出した 5 つのステートメントが「ほぼ」または「完全に」表されていると感じていることがわかりました。

要約(オリジナル)

Traditionally, social choice theory has only been applicable to choices among a few predetermined alternatives but not to more complex decisions such as collectively selecting a textual statement. We introduce generative social choice, a framework that combines the mathematical rigor of social choice theory with the capability of large language models to generate text and extrapolate preferences. This framework divides the design of AI-augmented democratic processes into two components: first, proving that the process satisfies rigorous representation guarantees when given access to oracle queries; second, empirically validating that these queries can be approximately implemented using a large language model. We apply this framework to the problem of generating a slate of statements that is representative of opinions expressed as free-form text; specifically, we develop a democratic process with representation guarantees and use this process to represent the opinions of participants in a survey about chatbot personalization. We find that 93 out of 100 participants feel ‘mostly’ or ‘perfectly’ represented by the slate of five statements we extracted.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google