Reflective Artificial Intelligence

要約

タイトル： 「反省的人工知能」

要約：

– 人工知能（AI）は、マインドができることをコンピューターに実行することについてのものであり、この目標に向かって進むにつれて、人間のタスクを機械によってますます委任する傾向があります。
– しかし、AIシステムは通常、洞察力と理解の不均衡を持ってこれらのタスクを実行します：新しい、より深い洞察が存在しますが、以前に人間の心が活動にもたらした多くの重要な特性が完全に欠如しています。
– したがって、私たちはどのような心の特徴を再現しており、何が欠けているか、そしてそれが重要かどうかを尋ねることが重要です。
– 世界に提示された曖昧さ、新興の知識、社会的な文脈に対処するとき、人間がタスクにもたらす核心的な特徴の1つは、反省です。しかし、この能力は現在の主流のAIから完全に欠けています。
– 本論文では、反省的AIがどのように見えるかを尋ねます。そして、複雑なシステム、認知科学、エージェントの反省の概念を参照しながら、反省的AIエージェントのアーキテクチャを概説し、その先進的な手法を強調します。

要約(オリジナル)

Artificial Intelligence (AI) is about making computers that do the sorts of things that minds can do, and as we progress towards this goal, we tend to increasingly delegate human tasks to machines. However, AI systems usually do these tasks with an unusual imbalance of insight and understanding: new, deeper insights are present, yet many important qualities that a human mind would have previously brought to the activity are utterly absent. Therefore, it is crucial to ask which features of minds have we replicated, which are missing, and if that matters. One core feature that humans bring to tasks, when dealing with the ambiguity, emergent knowledge, and social context presented by the world, is reflection. Yet this capability is utterly missing from current mainstream AI. In this paper we ask what reflective AI might look like. Then, drawing on notions of reflection in complex systems, cognitive science, and agents, we sketch an architecture for reflective AI agents, and highlight ways forward.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI