(Ir)rationality in AI: State of the Art, Research Challenges and Open Questions

要約

合理性の概念は、人工知能の分野の中心です。
私たちが人間の推論をシミュレートしようとしているのか、目標が境界のある最適性を達成することであるかどうかにかかわらず、一般に、人工薬を可能な限り合理的にすることを目指しています。
AI内の概念の中心性にもかかわらず、合理的なエージェントを構成するものの統一された定義はありません。
この記事では、人工知能における合理性と不合理性の調査を提供し、この分野の未解決の質問を示しています。
他の分野における合理性の理解は、人工知能、特に経済学、哲学、心理学の仕事におけるその概念に影響を与えています。
人工剤の行動に焦点を当てて、特定のシナリオで最適であることが証明できる不合理な行動を検討します。
識別と相互作用の両方の観点から、不合理な薬剤を扱うためのいくつかの方法が開発されていますが、この分野での作業は限られたままです。
これまで他の目的のために開発された方法、すなわち敵対的なシナリオは、人工剤との相互作用に合わせて調整される可能性があります。
さらに、人間と人工のエージェントの相互作用、およびこの相互作用の中で合理性が果たす役割について説明します。
この分野には多くの質問が残っており、人間と人工剤の両方の潜在的に不合理な行動に関連しています。

要約(オリジナル)

The concept of rationality is central to the field of artificial intelligence. Whether we are seeking to simulate human reasoning, or the goal is to achieve bounded optimality, we generally seek to make artificial agents as rational as possible. Despite the centrality of the concept within AI, there is no unified definition of what constitutes a rational agent. This article provides a survey of rationality and irrationality in artificial intelligence, and sets out the open questions in this area. The understanding of rationality in other fields has influenced its conception within artificial intelligence, in particular work in economics, philosophy and psychology. Focusing on the behaviour of artificial agents, we consider irrational behaviours that can prove to be optimal in certain scenarios. Some methods have been developed to deal with irrational agents, both in terms of identification and interaction, however work in this area remains limited. Methods that have up to now been developed for other purposes, namely adversarial scenarios, may be adapted to suit interactions with artificial agents. We further discuss the interplay between human and artificial agents, and the role that rationality plays within this interaction; many questions remain in this area, relating to potentially irrational behaviour of both humans and artificial agents.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google