Inductive Graph Unlearning

要約

【タイトル】帰納グラフのアンラーニング

【要約】
– 機械学習における「忘れられる権利」を実現する手段として、アンラーニングがある。
– アンラーニングは、削除されるサンプルの貢献と情報を完全に削除し、他のサンプルの貢献には影響を与えないことを目的としている。
– 近年、機械学習におけるアンラーニングのための多数のフレームワークが提案されており、それらのほとんどは画像やテキストデータに焦点を当てている。
– グラフデータにアンラーニングを拡張するために、GraphEraserが提案されているが、クリティカルな問題がある。
– GraphEraserは、グラフが静的であり、テストノードの属性やエッジがトレーニング中に見えるトランサクティブグラフ設定に特化しているため、動的なグラフに対しては不適当である。
– そこで、本研究では、社会メディアやトランザクションネットワークのように、進化するグラフを持つプロダクション機械学習システムに必要な、帰納的能力を持つGUIDEフレームワークを提案する。
– GUIDEは、公平性とバランスを備えたガイド付きグラフ分割、効率的なサブグラフ修復、類似性に基づいた集計の3つのコンポーネントから構成されている。
– 実験的に、いくつかの帰納的ベンチマークと進化するトランザクショングラフでGUIDEを評価した結果、低コストのグラフ分割を有し、計算または構造情報に関しても、効率的に帰納的グラフ学習タスクに実装できることがわかった。
– コードはこちらで利用可能: https://github.com/Happy2Git/GUIDE。

要約(オリジナル)

As a way to implement the ‘right to be forgotten’ in machine learning, \textit{machine unlearning} aims to completely remove the contributions and information of the samples to be deleted from a trained model without affecting the contributions of other samples. Recently, many frameworks for machine unlearning have been proposed, and most of them focus on image and text data. To extend machine unlearning to graph data, \textit{GraphEraser} has been proposed. However, a critical issue is that \textit{GraphEraser} is specifically designed for the transductive graph setting, where the graph is static and attributes and edges of test nodes are visible during training. It is unsuitable for the inductive setting, where the graph could be dynamic and the test graph information is invisible in advance. Such inductive capability is essential for production machine learning systems with evolving graphs like social media and transaction networks. To fill this gap, we propose the \underline{{\bf G}}\underline{{\bf U}}ided \underline{{\bf I}}n\underline{{\bf D}}uctiv\underline{{\bf E}} Graph Unlearning framework (GUIDE). GUIDE consists of three components: guided graph partitioning with fairness and balance, efficient subgraph repair, and similarity-based aggregation. Empirically, we evaluate our method on several inductive benchmarks and evolving transaction graphs. Generally speaking, GUIDE can be efficiently implemented on the inductive graph learning tasks for its low graph partition cost, no matter on computation or structure information. The code will be available here: https://github.com/Happy2Git/GUIDE.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI