Neighboring Words Affect Human Interpretation of Saliency Explanations

要約

タイトル：周辺ワードは視覚的強調の説明に人間の解釈を影響する

要約：

– 記号化された強調ポイントの解析において、人間の解釈が単語の長さなどの表面的な要因によって歪められることがあることが、最近の研究で示された。
– 本研究は、周辺ワードのマーキングが単語の重要性の説明文脈における解釈者の知覚にどのように影響するかを調査するためのユーザー調査を実施した。
– 結果として、周辺ワードが単語の重要度評価に有意な影響を与えることがわかった。具体的には、影響は周辺の方向（左または右）と、句や連語の言語学的およびコンピュータ上の事前測定値に基づいて変化することが明らかになった。
– この研究は、テキストベースの視覚的強調の説明が、引き続き単語レベルで伝えられるべきかどうかを疑問視し、代替の強調ポイントの説明方法に関する今後の研究にインプットを提供することができる。

要約(オリジナル)

Word-level saliency explanations (‘heat maps over words’) are often used to communicate feature-attribution in text-based models. Recent studies found that superficial factors such as word length can distort human interpretation of the communicated saliency scores. We conduct a user study to investigate how the marking of a word’s neighboring words affect the explainee’s perception of the word’s importance in the context of a saliency explanation. We find that neighboring words have significant effects on the word’s importance rating. Concretely, we identify that the influence changes based on neighboring direction (left vs. right) and a-priori linguistic and computational measures of phrases and collocations (vs. unrelated neighboring words). Our results question whether text-based saliency explanations should be continued to be communicated at word level, and inform future research on alternative saliency explanation methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI