Machine Unlearning in Forgettability Sequence

要約

機械の非学習（MU）は、「忘れられる権利」を実現するための有望なパラダイムになりつつあります。これにより、選択したデータ ポイントのトレーニング トレースを削除しながら、非学習後の一般的なテスト サンプルでのモデルの有用性を維持できます。
忘却に関する研究が進むにつれて、多くの基本的な未解決の疑問が未解決のままになっています。それは、サンプルごとに忘れられにくさのレベルが異なるのかということです。
さらに、それぞれの難易度によって決定されるサンプルが忘れられる順序は、忘却アルゴリズムのパフォーマンスに影響しますか?
この論文では、アンラーニングの難しさとアンラーニング アルゴリズムのパフォーマンスに影響を与える重要な要素を特定します。
プライバシー リスクが高いサンプルは、未学習になる可能性が高いことがわかりました。これは、サンプルごとに再学習の難易度が異なり、それがより正確な再学習モードを動機付けることを示しています。
この洞察に基づいて、RSU と呼ばれる、Ranking モジュールと SeqUnlearn モジュールで構成される一般的なアンラーニング フレームワークを提案します。

要約(オリジナル)

Machine unlearning (MU) is becoming a promising paradigm to achieve the ‘right to be forgotten’, where the training trace of any chosen data points could be eliminated, while maintaining the model utility on general testing samples after unlearning. With the advancement of forgetting research, many fundamental open questions remain unanswered: do different samples exhibit varying levels of difficulty in being forgotten? Further, does the sequence in which samples are forgotten, determined by their respective difficulty levels, influence the performance of forgetting algorithms? In this paper, we identify key factor affecting unlearning difficulty and the performance of unlearning algorithms. We find that samples with higher privacy risks are more likely to be unlearning, indicating that the unlearning difficulty varies among different samples which motives a more precise unlearning mode. Built upon this insight, we propose a general unlearning framework, dubbed RSU, which consists of Ranking module and SeqUnlearn module.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google