Recursive Metropolis-Hastings Naming Game: Symbol Emergence in a Multi-agent System based on Probabilistic Generative Models

要約

エージェント集団における記号の出現と創発的コミュニケーションに関する研究では、エージェントがさまざまな言語ゲームに参加する計算モデルが使用されました。
これらの中で、メトロポリス・ヘイスティングス命名ゲーム (MHNG) は注目すべき数学的特性を持っています。MHNG によるシンボル出現は、エージェントによって共有される表現の分散ベイズ推論であることが証明されています。
ただし、以前に提案された MHNG は 2 エージェントのシナリオに限定されています。
このペーパーでは、MHNG を N エージェント シナリオに拡張します。
この論文の主な貢献は 2 つあります: (1) MHNG の N エージェント バージョンとして再帰的メトロポリス・ヘイスティングス命名ゲーム (RMHNG) を提案し、RMHNG が潜在変数にわたる事後分布の近似ベイズ推論法であることを実証します。
MHNG と同様にエージェントによって共有されます。
(2) 合成画像データと実際の画像データに対する RMHNG のパフォーマンスを経験的に評価し、複数のエージェントがシンボル システムを開発して共有できるようにします。
さらに、エージェント集団におけるコミュニケーションを説明する能力を維持しながら、計算の複雑さを軽減するために、1 サンプルと制限された長さの 2 種類の近似を導入します。
実験結果は、MHNG と同様にエージェント間で共有される潜在変数に関する事後分布を近似するための分散ベイズ推論としての RMHNG の有効性を示しました。
さらに、RMHNG の利用により、エージェントのシンボル交換能力が明らかになりました。
さらに、この研究では、RMHNG の計算的に単純化されたバージョンでも、エージェント間でシンボルを出現させることができることが判明しました。

要約(オリジナル)

In the studies on symbol emergence and emergent communication in a population of agents, a computational model was employed in which agents participate in various language games. Among these, the Metropolis-Hastings naming game (MHNG) possesses a notable mathematical property: symbol emergence through MHNG is proven to be a decentralized Bayesian inference of representations shared by the agents. However, the previously proposed MHNG is limited to a two-agent scenario. This paper extends MHNG to an N-agent scenario. The main contributions of this paper are twofold: (1) we propose the recursive Metropolis-Hastings naming game (RMHNG) as an N-agent version of MHNG and demonstrate that RMHNG is an approximate Bayesian inference method for the posterior distribution over a latent variable shared by agents, similar to MHNG; and (2) we empirically evaluate the performance of RMHNG on synthetic and real image data, enabling multiple agents to develop and share a symbol system. Furthermore, we introduce two types of approximations — one-sample and limited-length — to reduce computational complexity while maintaining the ability to explain communication in a population of agents. The experimental findings showcased the efficacy of RMHNG as a decentralized Bayesian inference for approximating the posterior distribution concerning latent variables, which are jointly shared among agents, akin to MHNG. Moreover, the utilization of RMHNG elucidated the agents’ capacity to exchange symbols. Furthermore, the study discovered that even the computationally simplified version of RMHNG could enable symbols to emerge among the agents.

arxiv情報

著者 Jun Inukai,Tadahiro Taniguchi,Akira Taniguchi,Yoshinobu Hagiwara
発行日 2023-05-31 11:46:13+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL, cs.LG, cs.MA パーマリンク