Using Artificial Populations to Study Psychological Phenomena in Neural Models

要約

最近のトランスフォーマーベースの自然言語処理の研究の急増により、モデル内の人間のような認知行動の存在を検出しようとする多くの研究が行われています。
人間の心理学と同様、言語モデルにおける認知行動の調査は、結果が意味のあるものになるためには、適切な規模の適切な集団で実施されなければならないと私たちは主張します。
私たちは、実験集団を効率的に構築するための新しいアプローチで不確実性推定の研究を活用します。
結果として得られたツールである PopulationLM はオープンソースになりました。
我々は、不確実性推定の文献における理論的根拠と、言語モデルに関する現在の認知研究からの動機を提供します。
私たちは他の科学コミュニティから得た方法論的な教訓について議論し、それらを 2 つの人工集団研究に適用することを実証します。
母集団ベースの実験を通じて、言語モデルがトレーニングでよく表されるカテゴリ間の典型性効果と一致する動作を示すことがわかりました。
ただし、言語モデルは構造的なプライミング効果を示す傾向がないことがわかりました。
一般に、我々の結果は、単一モデルがニューラル モデルにおける認知行動の存在を過大評価する傾向があることを示しています。

要約(オリジナル)

The recent proliferation of research into transformer based natural language processing has led to a number of studies which attempt to detect the presence of human-like cognitive behavior in the models. We contend that, as is true of human psychology, the investigation of cognitive behavior in language models must be conducted in an appropriate population of an appropriate size for the results to be meaningful. We leverage work in uncertainty estimation in a novel approach to efficiently construct experimental populations. The resultant tool, PopulationLM, has been made open source. We provide theoretical grounding in the uncertainty estimation literature and motivation from current cognitive work regarding language models. We discuss the methodological lessons from other scientific communities and attempt to demonstrate their application to two artificial population studies. Through population based experimentation we find that language models exhibit behavior consistent with typicality effects among categories highly represented in training. However, we find that language models don’t tend to exhibit structural priming effects. Generally, our results show that single models tend to over estimate the presence of cognitive behaviors in neural models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google