Upper Bounding Barlow Twins: A Novel Filter for Multi-Relational Clustering

要約

マルチリレーショナル クラスタリングは、多層グラフで伝えられる多様な意味情報を抽出して融合することが難しいため、困難なタスクです。
最近の手法では、グラフ フィルタリングを通じてトポロジ構造とノード属性情報を統合します。
しかし、複数のグラフ間の相関関係を十分に考慮せずにローパスフィルターを使用することがよくあります。
この欠点を克服するために、Barlow Twins の理論的分析に基づいてグラフ フィルターを学習することを提案します。
負の半定値内積を含む入力は、バーロー ツイン損失の下限を提供し、より良い解に到達するのを妨げていることがわかります。
したがって、Barlow Twins の上限を生成するフィルターを学習します。
その後、シンプルなクラスタリング アーキテクチャを設計し、4 つのベンチマーク データセットでその最先端のパフォーマンスを実証します。

要約(オリジナル)

Multi-relational clustering is a challenging task due to the fact that diverse semantic information conveyed in multi-layer graphs is difficult to extract and fuse. Recent methods integrate topology structure and node attribute information through graph filtering. However, they often use a low-pass filter without fully considering the correlation among multiple graphs. To overcome this drawback, we propose to learn a graph filter motivated by the theoretical analysis of Barlow Twins. We find that input with a negative semi-definite inner product provides a lower bound for Barlow Twins loss, which prevents it from reaching a better solution. We thus learn a filter that yields an upper bound for Barlow Twins. Afterward, we design a simple clustering architecture and demonstrate its state-of-the-art performance on four benchmark datasets.

arxiv情報

著者 Xiaowei Qian,Bingheng Li,Zhao Kang
発行日 2023-12-21 17:46:05+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG パーマリンク