Matcha: Mitigating Graph Structure Shifts with Test-Time Adaptation

要約

グラフニューラルネットワーク(GNNS)は、分布シフトに対して脆弱であることが知られています。
最近、テスト時間適応(TTA)は、ソースドメインを再アクセスすることなく、事前に訓練されたモデルをターゲットドメインに適応させる能力により、注目を集めています。
ただし、既存のTTAアルゴリズムは、サンプルが独立している視覚タスクの属性シフト用に主に設計されています。
これらのメソッドは、構造のシフトを経験するグラフデータでは不十分に機能します。ここで、ノード接続性はソースグラフとターゲットグラフ間で異なります。
このパフォーマンスのギャップは、ノード属性シフトとグラフ構造シフトの明確な影響に至ります。後者は、ノード表現の品質を大幅に低下させ、異なるノードカテゴリ間の境界を曖昧にします。
グラフの構造シフトに対処するために、GNNSのHTOP凝集パラメーターを調整することにより、構造シフトへの効果的かつ効率的な適応のために設計された革新的なフレームワークである抹茶を提案します。
表現品質を向上させるために、さまざまなノードカテゴリの明確なクラスターの形成を促進するために、予測に基づいたクラスタリング損失を設計します。
さらに、抹茶は既存のTTAアルゴリズムとシームレスに統合され、構造と属性のシフトを組み合わせた全体的なパフォーマンスを改善しながら、属性シフトを効果的に処理できます。
合成データセットと現実世界の両方のデータセットに対する抹茶の有効性を検証し、構造と属性のシフトのさまざまな組み合わせにわたってその堅牢性を示します。
私たちのコードは、https://github.com/baowenxuan/matchaで入手できます。

要約(オリジナル)

Powerful as they are, graph neural networks (GNNs) are known to be vulnerable to distribution shifts. Recently, test-time adaptation (TTA) has attracted attention due to its ability to adapt a pre-trained model to a target domain, without re-accessing the source domain. However, existing TTA algorithms are primarily designed for attribute shifts in vision tasks, where samples are independent. These methods perform poorly on graph data that experience structure shifts, where node connectivity differs between source and target graphs. We attribute this performance gap to the distinct impact of node attribute shifts versus graph structure shifts: the latter significantly degrades the quality of node representations and blurs the boundaries between different node categories. To address structure shifts in graphs, we propose Matcha, an innovative framework designed for effective and efficient adaptation to structure shifts by adjusting the htop-aggregation parameters in GNNs. To enhance the representation quality, we design a prediction-informed clustering loss to encourage the formation of distinct clusters for different node categories. Additionally, Matcha seamlessly integrates with existing TTA algorithms, allowing it to handle attribute shifts effectively while improving overall performance under combined structure and attribute shifts. We validate the effectiveness of Matcha on both synthetic and real-world datasets, demonstrating its robustness across various combinations of structure and attribute shifts. Our code is available at https://github.com/baowenxuan/Matcha .

arxiv情報

著者 Wenxuan Bao,Zhichen Zeng,Zhining Liu,Hanghang Tong,Jingrui He
発行日 2025-02-12 18:27:29+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG パーマリンク