GCAL: Adapting Graph Models to Evolving Domain Shifts

要約

このペーパーでは、進化する複数の分散（OOD）グラフに関するグラフドメイン適応の課題について説明します。
従来のグラフドメイン適応方法は、シングルステップの適応に限定されているため、連続ドメインシフトの処理に効果がなく、壊滅的な忘却を受けやすくなります。
このペーパーでは、さまざまなグラフドメインにわたってモデルの持続可能性と適応性を高めるために設計されたグラフ継続的適応学習（GCAL）メソッドを紹介します。
GCALは、バイレベル最適化戦略を採用しています。
「Adapt」フェーズでは、情報の最大化アプローチを使用して、過去の記憶を再適用して忘れを軽減しながら、新しいグラフドメインでモデルを微調整します。
同時に、ボトルネック理論から派生した理論的下限に導かれる「メモリ」フェーズは、元のグラフを記憶に凝縮するための変分メモリグラフ生成モジュールを伴います。
広範な実験的評価は、GCALが適応性と知識保持の観点から既存の方法を大幅に上回ることを示しています。

要約(オリジナル)

This paper addresses the challenge of graph domain adaptation on evolving, multiple out-of-distribution (OOD) graphs. Conventional graph domain adaptation methods are confined to single-step adaptation, making them ineffective in handling continuous domain shifts and prone to catastrophic forgetting. This paper introduces the Graph Continual Adaptive Learning (GCAL) method, designed to enhance model sustainability and adaptability across various graph domains. GCAL employs a bilevel optimization strategy. The ‘adapt’ phase uses an information maximization approach to fine-tune the model with new graph domains while re-adapting past memories to mitigate forgetting. Concurrently, the ‘generate memory’ phase, guided by a theoretical lower bound derived from information bottleneck theory, involves a variational memory graph generation module to condense original graphs into memories. Extensive experimental evaluations demonstrate that GCAL substantially outperforms existing methods in terms of adaptability and knowledge retention.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google