Conditional Shift-Robust Conformal Prediction for Graph Neural Network

要約

グラフ ニューラル ネットワーク (GNN) は、グラフ構造データの結果を予測するための強力なツールとして登場しました。
GNN の有効性にもかかわらず、GNN の重大な欠点は、堅牢な不確実性推定を提供する能力が限られていることにあり、誤差が重大な結果をもたらす状況では信頼性に課題が生じています。
さらに、GNN は通常、トレーニング データとテスト データが同一の分布に従うと仮定して、分布内設定で優れています。この条件は、現実世界のグラフ データ シナリオでは満たされないことがよくあります。
この記事では、条件付きシフト中の GNN 予測における不確実性の定量化に取り組むために、予測モデルの出力を予測セットに変換することで不確実性を定量化するための広く認識されている統計手法である等角予測を利用します。 \footnote{条件付き確率分布の変化を表す $P(label
|input)$ ソース ドメインからターゲット ドメインへ。} グラフベースの半教師あり学習 (SSL) で。
さらに、潜在段階での条件シフトを最小限に抑えることでモデル予測を洗練することを目的とした新しい損失関数を提案します。
GNN の条件付きシフト ロバスト (CondSR) 等角予測と呼ばれる、私たちのアプローチ CondSR はモデルに依存せず、さまざまな分類モデルに適応できます。
標準的なグラフ ベンチマーク データセットでメソッドの有効性を検証し、ノード分類タスクで最先端の GNN と統合します。
コード実装は、さらなる探索と実験のために公開されています。

要約(オリジナル)

Graph Neural Networks (GNNs) have emerged as potent tools for predicting outcomes in graph-structured data. Despite their efficacy, a significant drawback of GNNs lies in their limited ability to provide robust uncertainty estimates, posing challenges to their reliability in contexts where errors carry significant consequences. Moreover, GNNs typically excel in in-distribution settings, assuming that training and test data follow identical distributions: a condition often unmet in real-world graph data scenarios. In this article, we leverage conformal prediction, a widely recognized statistical technique for quantifying uncertainty by transforming predictive model outputs into prediction sets, to address uncertainty quantification in GNN predictions amidst conditional shift \footnote{Representing the change in conditional probability distribution $P(label |input)$ from source domain to target domain.} in graph-based semi-supervised learning (SSL). Additionally, we propose a novel loss function aimed at refining model predictions by minimizing conditional shift in latent stages. Termed Conditional Shift Robust (CondSR) conformal prediction for GNNs, our approach CondSR is model-agnostic and adaptable to various classification models. We validate the effectiveness of our method on standard graph benchmark datasets, integrating it with state-of-the-art GNNs in node classification tasks. The code implementation is publicly available for further exploration and experimentation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google