Uncertain Machine Ethical Decisions Using Hypothetical Retrospection

要約

私たちは、人間の心に響く哲学の立場から確率と不確実性を考慮して機械倫理推論への既存のアプローチを改善するために、スヴェン・オヴェ・ハンソンによって開発された仮説的遡及論証手順の使用を提案します。
アクションは、潜在的な結果の分岐セットで表され、それぞれに状態、効用、および数値または詩的な確率推定が含まれます。
アクションは、望ましくない結果をもたらした分岐も含め、その分岐の観点からアクションを支持する一連の議論間の比較に基づいて選択されます。
この議論の使用により、倫理的推論のためのさまざまな哲学理論を、潜在的に相互に柔軟に組み合わせて使用​​することが可能になります。
私たちは、結果主義的および義務論的倫理理論を独立かつ同時に適用して、自律図書館システムのユースケースに手順を実装します。
我々は、機械倫理システムのさまざまな要件、つまり複数の理論の下での汎用性と、透明性と説明可能性を可能にする人間との共鳴を満たしていると思われる予備的なフレームワークを紹介します。

要約(オリジナル)

We propose the use of the hypothetical retrospection argumentation procedure, developed by Sven Ove Hansson to improve existing approaches to machine ethical reasoning by accounting for probability and uncertainty from a position of Philosophy that resonates with humans. Actions are represented with a branching set of potential outcomes, each with a state, utility, and either a numeric or poetic probability estimate. Actions are chosen based on comparisons between sets of arguments favouring actions from the perspective of their branches, even those branches that led to an undesirable outcome. This use of arguments allows a variety of philosophical theories for ethical reasoning to be used, potentially in flexible combination with each other. We implement the procedure, applying consequentialist and deontological ethical theories, independently and concurrently, to an autonomous library system use case. We introduce a preliminary framework that seems to meet the varied requirements of a machine ethics system: versatility under multiple theories and a resonance with humans that enables transparency and explainability.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google