Rectifying Group Irregularities in Explanations for Distribution Shift

要約

分布シフトを構成する現実世界の変化がモデルのパフォーマンスに悪影響を与えることはよく知られています。
これらの変化を解釈可能な方法で特徴付ける方法はほとんど理解されていません。
この問題に対処する既存の技術は、これら 2 つの分布間の差異を低減することによって、元の分布からシフトされた分布にサンプルをマッピングする方法を説明するシフト説明の形式をとっています。
ただし、これらの方法ではグループの不規則性が導入され、実現可能性と堅牢性が低い説明が得られる可能性があります。
これらの問題に対処するために、グループ認識シフト説明 (GSE) を提案します。これは、最悪グループ最適化を活用してグループの不規則性を修正することで、解釈可能な説明を生成する方法です。
私たちは、GSE が人口統計や階層的な部分母集団などのグループ構造を維持するだけでなく、さまざまな表形式、言語、画像設定で結果として得られる説明の実現可能性と堅牢性をどのように強化するかを示します。

要約(オリジナル)

It is well-known that real-world changes constituting distribution shift adversely affect model performance. How to characterize those changes in an interpretable manner is poorly understood. Existing techniques to address this problem take the form of shift explanations that elucidate how to map samples from the original distribution toward the shifted one by reducing the disparity between these two distributions. However, these methods can introduce group irregularities, leading to explanations that are less feasible and robust. To address these issues, we propose Group-aware Shift Explanations (GSE), a method that produces interpretable explanations by leveraging worst-group optimization to rectify group irregularities. We demonstrate how GSE not only maintains group structures, such as demographic and hierarchical subpopulations, but also enhances feasibility and robustness in the resulting explanations in a wide range of tabular, language, and image settings.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google