TopEx: Topic-based Explanations for Model Comparison

要約

現在の説明方法では、言語モデルを意味のある比較することは困難です。
現在の説明は、語彙が多すぎたり、モデル間で比較できないため、人間にとって圧倒されます。
我々は、モデルに依存しないトピックを通じて言語モデルを比較するための平等な競争条件を可能にする説明手法である TopEx を紹介します。
さまざまな NLP タスクにおいて、TopEx が DistilRoBERTa と GPT-2 の類似点と相違点をどのように特定できるかを示します。

要約(オリジナル)

Meaningfully comparing language models is challenging with current explanation methods. Current explanations are overwhelming for humans due to large vocabularies or incomparable across models. We present TopEx, an explanation method that enables a level playing field for comparing language models via model-agnostic topics. We demonstrate how TopEx can identify similarities and differences between DistilRoBERTa and GPT-2 on a variety of NLP tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google