Human-AI Coevolution

要約

人間とAIアルゴリズムが継続的に影響し合うプロセスとして定義される人間とAIの共進化は、ますます私たちの社会を特徴付けるようになってきているが、人工知能や複雑さ科学の文献では控えめな研究となっている。レコメンダーシステムとアシスタントは、日常生活の多くの側面に浸透し、オンラインプラットフォーム上の人間の選択に影響を与えるため、人間とAIの共進化において重要な役割を果たしている。ユーザーとAIの相互作用は、ユーザーの選択がAIモデルを訓練するためのデータを生成し、それがその後のユーザーの嗜好を形成するという、無限のフィードバックループをもたらす可能性がある。この人間とAIのフィードバック・ループは、従来の人間と機械の相互作用と比較して特異な特徴を持ち、複雑で、しばしば「意図しない」社会的結果を生む。本稿では、人間とAIのフィードバックループの理論的、実証的、数学的調査に焦点を当てた、AIと複雑性科学の交差点における新しい研究分野の礎石として、共進化AIを紹介する。その際、我々は次のことを行う：(i)既存の方法論の長所と短所を概説し、フィードバックループのメカニズムを捉えるための欠点と潜在的な方法を強調する。(ii)複雑性科学、AI、社会の交差点における考察を提案する。(iii)様々な人間とAIの生態系に関する実例を提供する。(iv)このような研究分野の創設に対する課題を、技術的、認識論的、法的、社会政治的といった抽象度の高いレベルで概念化しながら説明する。

要約(オリジナル)

Human-AI coevolution, defined as a process in which humans and AI algorithms continuously influence each other, increasingly characterises our society, but is understudied in artificial intelligence and complexity science literature. Recommender systems and assistants play a prominent role in human-AI coevolution, as they permeate many facets of daily life and influence human choices on online platforms. The interaction between users and AI results in a potentially endless feedback loop, wherein users’ choices generate data to train AI models, which, in turn, shape subsequent user preferences. This human-AI feedback loop has peculiar characteristics compared to traditional human-machine interaction and gives rise to complex and often “unintended” social outcomes. This paper introduces Coevolution AI as the cornerstone for a new field of study at the intersection between AI and complexity science focused on the theoretical, empirical, and mathematical investigation of the human-AI feedback loop. In doing so, we: (i) outline the pros and cons of existing methodologies and highlight shortcomings and potential ways for capturing feedback loop mechanisms; (ii) propose a reflection at the intersection between complexity science, AI and society; (iii) provide real-world examples for different human-AI ecosystems; and (iv) illustrate challenges to the creation of such a field of study, conceptualising them at increasing levels of abstraction, i.e., technical, epistemological, legal and socio-political.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL