Uncertain Machine Ethical Decisions Using Hypothetical Retrospection

要約

タイトル：「仮説的追想を用いた不確実なマシンの倫理的決定」

要約：
– Sven Hanssonによって開発された仮説的追想の論理手法を用いることで、確率や不確実性を考慮した哲学的アプローチから、人間的な視点に共感するマシンの倫理的推論を改善することを提案している。
– アクションは、状態、効用、数値的または詩的な確率予測を持つ可能性のあるアウトカムの分岐セットで表現される。アクションは、それらのブランチの観点から、アクションを支持する議論のセットの比較に基づいて選択され、望ましくない結果に至ったブランチを含めて考慮される。
– この議論の使用により、人間の倫理的推論に関するさまざまな哲学的理論を、柔軟に組み合わせて使用することができる。
– この手法を、結果主義的および義務論的な倫理的理論を個別におよび同時に適用して、自律的な図書館システムのユースケースに適用する。これにより、マシン倫理システムの多様な要件を満たす、柔軟性があり、透明性と説明可能性を可能にする予備的なフレームワークが導入される。

要約(オリジナル)

We propose the use of the hypothetical retrospection argumentation procedure, developed by Sven Hansson, to improve existing approaches to machine ethical reasoning by accounting for probability and uncertainty from a position of Philosophy that resonates with humans. Actions are represented with a branching set of potential outcomes, each with a state, utility, and either a numeric or poetic probability estimate. Actions are chosen based on comparisons between sets of arguments favouring actions from the perspective of their branches, even those branches that led to an undesirable outcome. This use of arguments allows a variety of philosophical theories for ethical reasoning to be used, potentially in flexible combination with each other. We implement the procedure, applying consequentialist and deontological ethical theories, independently and concurrently, to an autonomous library system use case. We introduce a a preliminary framework that seems to meet the varied requirements of a machine ethics system: versatility under multiple theories and a resonance with humans that enables transparency and explainability.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI