Inductive Graph Unlearning

要約

タイトル：帰納グラフのアンラーニング

要約：この論文では、機械学習における「忘れられる権利」を実現する方法として、「機械学習アンラーニング」が提案されている。これは、削除されるサンプルの貢献と情報をトレーニングモデルから完全に削除することを目的としている。しかしながら、他のサンプルの貢献に影響を与えないようにするために、この手法は主に画像やテキストデータに焦点を当てている。グラフデータに適用するために、GraphEraserが提案されているが、この手法はグラフが静的であり、テストノードの属性やエッジがトレーニング中に見える遷移的グラフ設定に特化しているため、動的なグラフのテスト情報が事前に見えない帰納的な設定には適していない。GUIDEは、公正でバランスの取れたガイド付きグラフ分割、効率的なサブグラフ修復、類似性に基づく集約の3つのコンポーネントから構成される。この手法は、計算や構造情報に関わらず、帰納的なグラフ学習タスクに低コストで実装できるため、進化するグラフを持つプロダクション機械学習システムに必要不可欠である。GUIDEは、多数の帰納ベンチマークと進化するトランザクショングラフで評価され、うまく機能することが示された。GUIDEのコードは、https://github.com/Happy2Git/GUIDE で公開される予定である。

– 機械学習における削除可能な権利を実現する「機械学習アンラーニング」という方法が提案されている。
– 「GraphEraser」は、グラフに適用できるが、その手法は遷移的グラフ設定に特化しており、帰納的な設定には適していないとされる。
– GUIDEは、公正でバランスの取れたガイド付きグラフ分割、効率的なサブグラフ修復、類似性に基づく集約の3つのコンポーネントから構成され、帰納的なグラフ学習タスクに低コストで実装できる。
– GUIDEは、多数のベンチマークと進化するトランザクショングラフで評価され、効果的であることが示された。
– GUIDEのコードは、https://github.com/Happy2Git/GUIDE で公開される予定である。

要約(オリジナル)

As a way to implement the ‘right to be forgotten’ in machine learning, \textit{machine unlearning} aims to completely remove the contributions and information of the samples to be deleted from a trained model without affecting the contributions of other samples. Recently, many frameworks for machine unlearning have been proposed, and most of them focus on image and text data. To extend machine unlearning to graph data, \textit{GraphEraser} has been proposed. However, a critical issue is that \textit{GraphEraser} is specifically designed for the transductive graph setting, where the graph is static and attributes and edges of test nodes are visible during training. It is unsuitable for the inductive setting, where the graph could be dynamic and the test graph information is invisible in advance. Such inductive capability is essential for production machine learning systems with evolving graphs like social media and transaction networks. To fill this gap, we propose the \underline{{\bf G}}\underline{{\bf U}}ided \underline{{\bf I}}n\underline{{\bf D}}uctiv\underline{{\bf E}} Graph Unlearning framework (GUIDE). GUIDE consists of three components: guided graph partitioning with fairness and balance, efficient subgraph repair, and similarity-based aggregation. Empirically, we evaluate our method on several inductive benchmarks and evolving transaction graphs. Generally speaking, GUIDE can be efficiently implemented on the inductive graph learning tasks for its low graph partition cost, no matter on computation or structure information. The code will be available here: https://github.com/Happy2Git/GUIDE.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI