A framework for the emergence and analysis of language in social learning agents

要約

タイトル：社会的学習エージェントにおける言語の出現と分析のためのフレームワーク

要約：
-ANNsは、研究モデルとして使用されることが増えていますが、その普遍性と表現不変性についての疑問が残っています。
-社会的制約下で進化した生物学的ニューラルネットワークは、共有可能な表現を可能にするために進化したため、一般化能力を示しています。
-本研究では、協調エージェント間のコミュニケーションプロトコルを提案し、個々の抽象化と共有抽象化の形成及びその課題達成に与える影響を分析します。
-このコミュニケーションプロトコルは、高次元情報を低次元表現を通じて符号化することによって言語の特徴を模倣しようとします。
-グリッドワールドマップと強化学習を使用し、教師ANNは、タスクの完了をより良くするために学生ANNに圧縮されたメッセージを渡します。
-その結果、学生はより高いゴール検索率を達成し、タスクの世界全体でゴールの位置を一般化します。
-報酬を最大化するためにメッセージ内容を最適化することで、情報符号化が改善され、正確な表現には双方向の入力が必要であることを示唆しています。
-これは、言語がエージェント間の共通表現としての役割とその一般化能力への影響を強調しています。

要約(オリジナル)

Artificial neural networks (ANNs) are increasingly used as research models, but questions remain about their generalizability and representational invariance. Biological neural networks under social constraints evolved to enable communicable representations, demonstrating generalization capabilities. This study proposes a communication protocol between cooperative agents to analyze the formation of individual and shared abstractions and their impact on task performance. This communication protocol aims to mimic language features by encoding high-dimensional information through low-dimensional representation. Using grid-world mazes and reinforcement learning, teacher ANNs pass a compressed message to a student ANN for better task completion. Through this, the student achieves a higher goal-finding rate and generalizes the goal location across task worlds. Further optimizing message content to maximize student reward improves information encoding, suggesting that an accurate representation in the space of messages requires bi-directional input. This highlights the role of language as a common representation between agents and its implications on generalization capabilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI