Uncertain Machine Ethics Planning

要約

機械の倫理決定は、決定に対する不確実性の意味を考慮する必要があります。
長期的に好ましい結果に到達するために、一連のアクションを介して決定する必要があります。
ただし、結果の評価は、1つ以上の道徳的理論を呼び起こす可能性があります。
各理論には、倫理的状況の異なる表現が必要になります。
たとえば、功利主義は数値的価値を測定し、デントロジーは義務を分析し、美徳倫理は道徳的な性格を強調しています。
潜在的に矛盾する道徳的考慮事項のバランスをとっていますが、たとえば、最小限のコストで道徳的に中立的な目標を達成するために、決定を下す必要がある場合があります。
このホワイトペーパーでは、問題を多動物マルコフの決定プロセスおよび多動的確率的最短経路問題として形式化します。
不確実性の下での倫理的推論のために、Sven-ove Hanssonの仮説的な回復手順を利用して、多目的AO*に基づいたヒューリスティックアルゴリズムを開発します。
私たちのアプローチは、機械倫理文献のケーススタディによって検証されています。それを必要とする人のためにインスリンを盗むかどうかの問題。

要約(オリジナル)

Machine Ethics decisions should consider the implications of uncertainty over decisions. Decisions should be made over sequences of actions to reach preferable outcomes long term. The evaluation of outcomes, however, may invoke one or more moral theories, which might have conflicting judgements. Each theory will require differing representations of the ethical situation. For example, Utilitarianism measures numerical values, Deontology analyses duties, and Virtue Ethics emphasises moral character. While balancing potentially conflicting moral considerations, decisions may need to be made, for example, to achieve morally neutral goals with minimal costs. In this paper, we formalise the problem as a Multi-Moral Markov Decision Process and a Multi-Moral Stochastic Shortest Path Problem. We develop a heuristic algorithm based on Multi-Objective AO*, utilising Sven-Ove Hansson’s Hypothetical Retrospection procedure for ethical reasoning under uncertainty. Our approach is validated by a case study from Machine Ethics literature: the problem of whether to steal insulin for someone who needs it.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google