Learning How to Vote With Principles: Axiomatic Insights Into the Collective Decisions of Neural Networks

要約

集団決定における透明性のニーズを満たしながら、ニューラル ネットワークを投票理論に適用できるでしょうか?
私たちは公理的ディープ投票を提案します。これは、確立された投票理論の公理的方法を使用して、選好を集約するニューラル ネットワークを構築および評価するためのフレームワークです。
私たちの調査結果は次のとおりです: (1) ニューラル ネットワークは、精度が高いにもかかわらず、投票ルールの中核となる公理と一致しないことが多く、結果の模倣と推論との間に乖離があることが明らかになります。
(2) 公理固有のデータを使用したトレーニングでは、それらの公理との整合性は強化されません。
(3) 公理を満たすことのみを最適化することによって、ニューラル ネットワークは、多くの場合、既存の投票ルールを上回り、実質的に異なる新しい投票ルールを合成できます。
これにより、両方の分野に関する洞察が得られます。AI の場合、バイアスや価値観の一致などの重要な概念が数学的に厳密な方法で研究されます。
投票理論に関しては、投票ルールの空間の新しい領域が探求されます。

要約(オリジナル)

Can neural networks be applied in voting theory, while satisfying the need for transparency in collective decisions? We propose axiomatic deep voting: a framework to build and evaluate neural networks that aggregate preferences, using the well-established axiomatic method of voting theory. Our findings are: (1) Neural networks, despite being highly accurate, often fail to align with the core axioms of voting rules, revealing a disconnect between mimicking outcomes and reasoning. (2) Training with axiom-specific data does not enhance alignment with those axioms. (3) By solely optimizing axiom satisfaction, neural networks can synthesize new voting rules that often surpass and substantially differ from existing ones. This offers insights for both fields: For AI, important concepts like bias and value-alignment are studied in a mathematically rigorous way; for voting theory, new areas of the space of voting rules are explored.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google