Towards Theory-based Moral AI: Moral AI with Aggregating Models Based on Normative Ethical Theory

要約

道徳AIは哲学や人工知能の分野で研究されてきました。
既存の研究のほとんどは理論的なものにすぎませんが、AI の最近の発展により、道徳性を備えた AI を実装する必要性がますます高まっています。
その一方で、人間は何が道徳的に正しいのかわからないという道徳的不確実性の下にあります。
この論文では、規範的倫理の 3 つの規範理論に基づくモデルの出力を集約して、最も適切な出力を生成する、期待される選択価値の最大化 (MEC) アルゴリズムを実装します。
MEC は、道徳的不確実性の下で適切な道徳的判断を下すための手法です。
我々の実験結果は、MEC の出力が常識的道徳とある程度相関しており、MEC が既存の手法と同等かそれ以上に適切な出力を生成できることを示唆しています。

要約(オリジナル)

Moral AI has been studied in the fields of philosophy and artificial intelligence. Although most existing studies are only theoretical, recent developments in AI have made it increasingly necessary to implement AI with morality. On the other hand, humans are under the moral uncertainty of not knowing what is morally right. In this paper, we implement the Maximizing Expected Choiceworthiness (MEC) algorithm, which aggregates outputs of models based on three normative theories of normative ethics to generate the most appropriate output. MEC is a method for making appropriate moral judgments under moral uncertainty. Our experimental results suggest that the output of MEC correlates to some extent with commonsense morality and that MEC can produce equally or more appropriate output than existing methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google