Linearity of Relation Decoding in Transformer Language Models

要約

変換言語モデル (LM) でエンコードされた知識の多くは、単語とその同義語、エンティティとその属性の間の関係など、関係の観点から表現できます。関係のサブセットについては、この計算がよく近似されることを示します。
主題表現に対する単一の線形変換によって。
線形関係表現は、単一のプロンプトから LM への一次近似を構築することによって取得でき、これらはさまざまな事実関係、常識関係、および言語関係に対して存在します。
ただし、LM 予測がリレーショナル知識を正確に捕捉しているものの、この知識が表現内で線形にエンコードされていない多くのケースも特定しています。
したがって、我々の結果は、変圧器LMにおける単純で解釈可能であるが、異種混合で展開された知識表現戦略を明らかにしました。

要約(オリジナル)

Much of the knowledge encoded in transformer language models (LMs) may be expressed in terms of relations: relations between words and their synonyms, entities and their attributes, etc. We show that, for a subset of relations, this computation is well-approximated by a single linear transformation on the subject representation. Linear relation representations may be obtained by constructing a first-order approximation to the LM from a single prompt, and they exist for a variety of factual, commonsense, and linguistic relations. However, we also identify many cases in which LM predictions capture relational knowledge accurately, but this knowledge is not linearly encoded in their representations. Our results thus reveal a simple, interpretable, but heterogeneously deployed knowledge representation strategy in transformer LMs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google