Discriminatory or Samaritan — which AI is needed for humanity? An Evolutionary Game Theory Analysis of Hybrid Human-AI populations

要約

人工知能 (AI) システムが私たちの生活にますます組み込まれるにつれ、その存在は相互作用につながり、私たちの行動、意思決定、社会的相互作用を形成します。
既存の理論研究は主に人間間の相互作用に焦点を当てており、AI の存在によって引き起こされる独特のダイナミクスを見落としてきました。
この論文では、進化ゲーム理論の手法に頼って、よく混合された集団と構造化された集団の両方でワンショットの囚人のジレンマ ゲームをプレイする人間集団における協力の進化に、さまざまな形式の AI がどのような影響を与えるかを研究します。
特に、変化が慎重または抵抗の目で見られているゆっくりとした社会では、脱北者を含むすべての人を無条件に助けるサマリタン AI エージェントが、価値がある/協力的であるとみなされる人々のみを助ける差別的 AI よりも、人間のより高いレベルの協力を促進できることがわかりました。
選択の強度)。
直観的には、変化の速い社会（選択の強度が高い）では、差別的 AI はサマリア人 AI よりも高いレベルの協力を促進します。

要約(オリジナル)

As artificial intelligence (AI) systems are increasingly embedded in our lives, their presence leads to interactions that shape our behaviour, decision-making, and social interactions. Existing theoretical research has primarily focused on human-to-human interactions, overlooking the unique dynamics triggered by the presence of AI. In this paper, resorting to methods from evolutionary game theory, we study how different forms of AI influence the evolution of cooperation in a human population playing the one-shot Prisoner’s Dilemma game in both well-mixed and structured populations. We found that Samaritan AI agents that help everyone unconditionally, including defectors, can promote higher levels of cooperation in humans than Discriminatory AI that only help those considered worthy/cooperative, especially in slow-moving societies where change is viewed with caution or resistance (small intensities of selection). Intuitively, in fast-moving societies (high intensities of selection), Discriminatory AIs promote higher levels of cooperation than Samaritan AIs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google