Agent Assessment of Others Through the Lens of Self

要約

内省から他人の理解に至るまでの認知の成熟は、長い間人類の発達の特徴でした。
このポジションペーパーでは、特に多様なエージェントが存在する多面的な環境において、AI システムが人間のようなインタラクションを真にエミュレートしたり、それに近づけたりするには、まず自己についての深く微妙な理解を達成する必要があると主張しています。
この論文は、自己認識からメンタライゼーション（心の理論とも呼ばれる）までの人間の発達の軌跡と並行して、自律エージェントの自己の内省的能力の質が、他のエージェントに対する人間のような質の高い理解を反映する上で重要であると主張しています。
反論では実用性、計算効率、倫理的懸念が強調されていますが、この立場は自己参照処理のアルゴリズム上の考慮事項を融合した開発アプローチを提案しています。
最終的に、示されたビジョンは、単に計算する機械ではなく、人間の認知の複雑な構成と調和しながら、内省し、共感し、理解する実体についてのものです。

要約(オリジナル)

The maturation of cognition, from introspection to understanding others, has long been a hallmark of human development. This position paper posits that for AI systems to truly emulate or approach human-like interactions, especially within multifaceted environments populated with diverse agents, they must first achieve an in-depth and nuanced understanding of self. Drawing parallels with the human developmental trajectory from self-awareness to mentalizing (also called theory of mind), the paper argues that the quality of an autonomous agent’s introspective capabilities of self are crucial in mirroring quality human-like understandings of other agents. While counterarguments emphasize practicality, computational efficiency, and ethical concerns, this position proposes a development approach, blending algorithmic considerations of self-referential processing. Ultimately, the vision set forth is not merely of machines that compute but of entities that introspect, empathize, and understand, harmonizing with the complex compositions of human cognition.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google