A Combinatorial Approach to Neural Emergent Communication

要約

深層学習ベースの創発通信に関する実質的な研究では、参照ゲーム フレームワーク、特にルイス シグナリング ゲームが使用されていますが、このゲームでの通信を成功させるには通常 1 つまたは 2 つの有効なシンボル (つまり、メッセージの長さ) のみが必要であると主張します。
トレーニングデータ。
この問題に対処するために、理論的な分析を提供し、組み合わせアルゴリズム SolveMinSym (SMS) を導入して、ルイス シグナリング ゲームで通信が成功するための最小シンボル数 min(|M|) を決定します。
SMS アルゴリズムを使用して、さまざまな min(|M|) を持つデータセットを作成し、トレーニング データの min(|M|) が高いほど、創発言語で有効なシンボルの数が増加することを経験的に示します。

要約(オリジナル)

Substantial research on deep learning-based emergent communication uses the referential game framework, specifically the Lewis signaling game, however we argue that successful communication in this game typically only need one or two effective symbols (i.e. message length) because of a sampling pitfall in the training data. To address this issue, we provide a theoretical analysis and introduce a combinatorial algorithm SolveMinSym (SMS) to determine the minimum number of symbols for successful communication min(|M|) in the Lewis signaling game. We use SMS algorithm to create datasets with different min(|M|) to empirically show that higher min(|M|) for the training data increases the number of effective symbols in the emergent language.

arxiv情報

著者 Zheyuan Zhang
発行日 2024-10-24 14:54:09+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL, cs.LG パーマリンク