要約
カテゴリ流暢性は広く研究されている認知現象ですが、根底にある検索メカニズムとして 2 つの相反する説明が提案されています。それは、記憶を意図的に検索する最適な採集プロセス (Hills et al., 2012) と、セマンティック ネットワークからのランダム ウォーク サンプリング (Abbott) です。
ら、2015)。
両方の説明の証拠は、人間のパッチ切り替えの予測を中心としており、カテゴリ流暢性の既存のモデルはどちらも逆説的に同一の結果を生成します。
まず、既存のモデルによって立てられた仮定、つまり、各名前付き例が前の例にのみ依存するという仮定を剥がすことから始めます。(i) 追加のバイアスを追加してカテゴリ遷移確率を直接モデル化し、(ii) 大規模な言語モデルに依存してカテゴリ遷移確率を直接モデル化します。
既存のシーケンス全体に基づいて予測します。
次に、シーケンスジェネレーターとしてモデルを再定式化することにより、採餌に関する各説明間の不一致を解決するための証拠を提示します。
評価するために、N グラムのオーバーラップに基づいたメトリクスを提案することで、生成されたカテゴリの流暢性ランを人間が書いたシーケンスのバンクと比較します。
私たちは、カテゴリースイッチ予測子が必ずしも人間のような配列を生成するとは限らず、実際、ヒルズらによって使用された追加のバイアスが原因であることを発見しました。
(2012) モデルでは生成品質を向上させる必要がありますが、その後、カテゴリの変更により改善されました。
LLM のみを使用して生成する場合でも、制作中にパッチ切り替え動作をトリガーするための追加のグローバル キューが必要です。
セマンティック ネットワーク上の検索プロセスのみに関するさらなるテストにより、人間の行動を再現するための決定論的検索の重要性が強調されます。
要約(オリジナル)
Category fluency is a widely studied cognitive phenomenon, yet two conflicting accounts have been proposed as the underlying retrieval mechanism — an optimal foraging process deliberately searching through memory (Hills et al., 2012) and a random walk sampling from a semantic network (Abbott et al., 2015). Evidence for both accounts has centered around predicting human patch switches, where both existing models of category fluency produce paradoxically identical results. We begin by peeling back the assumptions made by existing models, namely that each named example only depends on the previous example, by (i) adding an additional bias to model the category transition probability directly and (ii) relying on a large language model to predict based on the entire existing sequence. Then, we present evidence towards resolving the disagreement between each account of foraging by reformulating models as sequence generators. To evaluate, we compare generated category fluency runs to a bank of human-written sequences by proposing a metric based on n-gram overlap. We find category switch predictors do not necessarily produce human-like sequences, in fact the additional biases used by the Hills et al. (2012) model are required to improve generation quality, which are later improved by our category modification. Even generating exclusively with an LLM requires an additional global cue to trigger the patch switching behavior during production. Further tests on only the search process on top of the semantic network highlight the importance of deterministic search to replicate human behavior.
arxiv情報
著者 | David Heineman,Reba Koenen,Sashank Varma |
発行日 | 2024-05-14 02:10:05+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google