Machine Unlearning in Hyperbolic vs. Euclidean Multimodal Contrastive Learning: Adapting Alignment Calibration to MERU

要約

大規模な事前訓練モデルでの選択的な概念除去にとって、マシンの未学習方法はますます重要になっています。
ユークリッドのコントラスト型ビジョン言語モデルでは、最近の研究が調査されていますが、双曲線空間での概念除去の有効性は未開拓のままです。
このホワイトペーパーでは、セマンティック階層をより適切にキャプチャするために双曲線空間に画像とテキストを埋め込むモデルであるMeruにアラインメントキャリブレーションを適応させることにより、双曲線対照学習の機械を調査しています。
体系的な実験とアブレーション研究を通じて、双曲線形状は概念除去の明確な利点を提供し、特に複数の概念除去にスケーリングする場合、保持された概念の合理的なパフォーマンスでほぼ完全な忘却を達成することを実証します。
私たちのアプローチでは、双曲線空間のユニークな特性を活用する濃度のキャリブレーションと規範の正則化を含む双曲線固有のコンポーネントを導入します。
ユークリッドモデルとの比較分析は、生み出されていないダイナミクスの根本的な違いを明らかにし、双曲線の解除はセマンティック階層を再編成する一方で、ユークリッドアプローチは単にクロスモーダル関連を切断します。
これらの調査結果は、マシンの学習技術を進めるだけでなく、マルチモーダルモデルの概念表現と除去に影響を与える幾何学的特性に関する洞察を提供します。
https://github.com/alex-pv01/hacで入手可能なソースコード

要約(オリジナル)

Machine unlearning methods have become increasingly important for selective concept removal in large pre-trained models. While recent work has explored unlearning in Euclidean contrastive vision-language models, the effectiveness of concept removal in hyperbolic spaces remains unexplored. This paper investigates machine unlearning in hyperbolic contrastive learning by adapting Alignment Calibration to MERU, a model that embeds images and text in hyperbolic space to better capture semantic hierarchies. Through systematic experiments and ablation studies, we demonstrate that hyperbolic geometry offers distinct advantages for concept removal, achieving near perfect forgetting with reasonable performance on retained concepts, particularly when scaling to multiple concept removal. Our approach introduces hyperbolic-specific components including entailment calibration and norm regularization that leverage the unique properties of hyperbolic space. Comparative analysis with Euclidean models reveals fundamental differences in unlearning dynamics, with hyperbolic unlearning reorganizing the semantic hierarchy while Euclidean approaches merely disconnect cross-modal associations. These findings not only advance machine unlearning techniques but also provide insights into the geometric properties that influence concept representation and removal in multimodal models. Source code available at https://github.com/alex-pv01/HAC

arxiv情報

提供元, 利用サービス

arxiv.jp, Google