Why people judge humans differently from machines: The role of perceived agency and experience

要約

人間は功利主義的な道徳哲学を使用して人工知能を判断し、人間は認識された意図を強調する道徳哲学を使用して判断することが知られています。
しかし、なぜ人間と機械の評価は異なるのでしょうか?
心理学では、人間は人間と機械に対して異なる心の認識モデルを持っている可能性があり、そのため人間に似たロボットを人間と同じように扱うだろうと示唆しています。
ここでは、機械の主体性（計画、行動する能力など）と経験（感じる能力など）に対する人々の認識を操作して、人間がより人間に似ていると認識される機械をこの 2 つの観点から判断するかどうかを調査するランダム化実験を紹介します。
次元は人間を判断する方法に似ています。
機械にはより多くの主体性があるが、より多くの経験はないと認識すると、人間の機械に対する判断はより人間の判断に似てくることがわかりました。
私たちの調査結果は、人間が人間と機械を判断するためにさまざまな道徳哲学を使用していることは、主体性の認識が重要な役割を果たす心の認識モデルの進歩によって説明できることを示しています。
これらの発見は、人間の機械に対する判断が人間の判断とより似てくることを示唆する一連の証拠を追加し、人間と機械の行動に対する人間の判断を調整する次元についてのさらなる研究を動機付けることになる。

要約(オリジナル)

People are known to judge artificial intelligence using a utilitarian moral philosophy and humans using a moral philosophy emphasizing perceived intentions. But why do people judge humans and machines differently? Psychology suggests that people may have different mind perception models of humans and machines, and thus, will treat human-like robots more similarly to the way they treat humans. Here we present a randomized experiment where we manipulated people’s perception of machine agency (e.g., ability to plan, act) and experience (e.g., ability to feel) to explore whether people judge machines that are perceived to be more similar to humans along these two dimensions more similarly to the way they judge humans. We find that people’s judgments of machines become more similar to that of humans when they perceive machines as having more agency but not more experience. Our findings indicate that people’s use of different moral philosophies to judge humans and machines can be explained by a progression of mind perception models where the perception of agency plays a prominent role. These findings add to the body of evidence suggesting that people’s judgment of machines becomes more similar to that of humans motivating further work on dimensions modulating people’s judgment of human and machine actions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google