Reflective Artificial Intelligence

要約

人工知能 (AI) とは、頭脳ができるようなことを行うコンピューターを作成することです。この目標に向かって進むにつれて、人間のタスクを機械にますます委任する傾向があります。
しかし、AI システムは通常、洞察と理解の異常な不均衡でこれらのタスクを実行します。新しい、より深い洞察が存在しますが、以前は人間の心が活動にもたらしたはずの多くの重要な性質がまったくありません。
したがって、どの心の特徴が複製され、どれが失われているか、そしてそれが重要かどうかを尋ねることが重要です。
世界が提示するあいまいさ、創発的な知識、および社会的状況に対処するときに、人間がタスクにもたらす重要な機能の 1 つは、内省です。
しかし、この機能は現在の主流の AI にはまったく欠けています。
この論文では、リフレクティブ AI がどのように見えるかを尋ねます。
次に、複雑なシステム、認知科学、およびエージェントにおけるリフレクションの概念を利用して、リフレクション AI エージェントのアーキテクチャをスケッチし、今後の方法を強調します。

要約(オリジナル)

Artificial Intelligence (AI) is about making computers that do the sorts of things that minds can do, and as we progress towards this goal, we tend to increasingly delegate human tasks to machines. However, AI systems usually do these tasks with an unusual imbalance of insight and understanding: new, deeper insights are present, yet many important qualities that a human mind would have previously brought to the activity are utterly absent. Therefore, it is crucial to ask which features of minds have we replicated, which are missing, and if that matters. One core feature that humans bring to tasks, when dealing with the ambiguity, emergent knowledge, and social context presented by the world, is reflection. Yet this capability is utterly missing from current mainstream AI. In this paper we ask what reflective AI might look like. Then, drawing on notions of reflection in complex systems, cognitive science, and agents, we sketch an architecture for reflective AI agents, and highlight ways forward.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google