Generating Samples to Question Trained Models

投稿日: 2025年2月11日 作成者: jarxiv

要約

機械学習モデルがどのように動作するかを調査する必要性が高まっています。
この作業では、データの好みに疑問を呈して、訓練された機械学習モデルを理解することを目指しています。
訓練されたモデルをプローブし、予測リスク、パラメーターに敏感な、またはモデル制御サンプルなどのさまざまなシナリオで好ましいサンプルを特定できる数学的フレームワークを提案します。
フレームワークを紹介するために、これらのクエリを、さまざまな分類および回帰タスクでトレーニングされたさまざまなモデルにポーズを取り、生成されたデータの形で回答を受け取ります。

要約(オリジナル)

There is a growing need for investigating how machine learning models operate. With this work, we aim to understand trained machine learning models by questioning their data preferences. We propose a mathematical framework that allows us to probe trained models and identify their preferred samples in various scenarios including prediction-risky, parameter-sensitive, or model-contrastive samples. To showcase our framework, we pose these queries to a range of models trained on a range of classification and regression tasks, and receive answers in the form of generated data.

arxiv情報

著者 E. Mehmet Kıral,Nurşen Aydın,Ş. İlker Birbil
発行日 2025-02-10 16:48:48+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG | Generating Samples to Question Trained Models はコメントを受け付けていません

iLOCO: Distribution-Free Inference for Feature Interactions

投稿日: 2025年2月11日 作成者: jarxiv

要約

特徴の重要性測定は広く研究されており、モデルの動作を理解し、機能の選択を導き、解釈可能性を高めるために不可欠です。
ただし、多くの機械学習フィットモデルには、機能間の複雑で高次の相互作用が含まれます。
既存の機能の重要性メトリックは、これらの高次効果をキャプチャすることができませんが、既存のインタラクションメトリックは、限られた適用性または過度の計算に苦しむことがよくあります。
特徴的な相互作用の統計的推論を実施する方法はありません。
このギャップを埋めるために、最初に、高次の特徴的な相互作用の重要性を測定するために、新しいモデルに依存しないメトリックである相互作用休暇1-コバリエーションアウトイロコを提案します。
次に、Loco推論の最近の進歩を活用して、ILOCOメトリックの分布フリーおよび仮定光信頼区間を開発します。
計算上の課題に対処するために、表示されるILOCOメトリックと信頼区間を計算するためのアンサンブル学習方法も紹介します。
Ilocoメトリックと合成データセットと実際のデータセットの両方での信頼区間を検証し、アプローチが既存の方法を上回り、特徴の相互作用を検出するための最初の推論アプローチを提供することを示します。

要約(オリジナル)

Feature importance measures are widely studied and are essential for understanding model behavior, guiding feature selection, and enhancing interpretability. However, many machine learning fitted models involve complex, higher-order interactions between features. Existing feature importance metrics fail to capture these higher-order effects while existing interaction metrics often suffer from limited applicability or excessive computation; no methods exist to conduct statistical inference for feature interactions. To bridge this gap, we first propose a new model-agnostic metric, interaction Leave-One-Covariate-Out iLOCO, for measuring the importance of higher-order feature interactions. Next, we leverage recent advances in LOCO inference to develop distribution-free and assumption-light confidence intervals for our iLOCO metric. To address computational challenges, we also introduce an ensemble learning method for calculating the iLOCO metric and confidence intervals that we show is both computationally and statistically efficient. We validate our iLOCO metric and our confidence intervals on both synthetic and real data sets, showing that our approach outperforms existing methods and provides the first inferential approach to detecting feature interactions.

arxiv情報

著者 Camille Little,Lili Zheng,Genevera Allen
発行日 2025-02-10 16:49:46+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML | iLOCO: Distribution-Free Inference for Feature Interactions はコメントを受け付けていません

EfficientLLM: Scalable Pruning-Aware Pretraining for Architecture-Agnostic Edge Language Models

投稿日: 2025年2月11日 作成者: jarxiv

要約

スケーリング法則によって駆動される最新の大手言語モデル（LLM）は、大きなモデルサイズでインテリジェンスの緊急事態を達成します。
最近、クラウドコスト、待ち時間、プライバシーに関する懸念が高まっているため、コンパクトエッジ言語モデルを開発するための緊急の要件となります。
スケーリング法に囲まれた直接的な事前トレーニングとは区別され、この作業は、はるかに大きな最適化されたモデルのパフォーマンスを維持することに焦点を当てて、剪定を認識している前orainingを提案しています。
次の特性を特徴としています。1）データスケーラブル：LLMに最小パラメーターグループを導入し、構造剪定を継続的に最適化し、LLMプルナーやスパルセグプトなどのトレーニング後の剪定方法を前処理相に拡張します。
2）アーキテクチャ違反：LLMアーキテクチャは、顕著性駆動型の剪定を使用して自動設計されています。
LLM圧縮を拡大し、その境界を拡張することにより、効率的なllmと呼ばれる最高品質のエッジ言語モデルを達成していることがわかります。
Efficientllmは、Mobilellm、Smollm、Qwen2.5-0.5B、Olmo-1B、Llama3.2-1Bなど、100mmis \ SIM 1B $パラメーターでSOTAベースラインを大幅に上回ります。
最初の試みとして、EfficientLLMは従来のLLM圧縮と直接の事前トレーニング方法とのパフォーマンスギャップを橋渡しし、https：//github.com/xingrun-xing2/efficientllmで完全にオープンソースを開きます。

要約(オリジナル)

Modern large language models (LLMs) driven by scaling laws, achieve intelligence emergency in large model sizes. Recently, the increasing concerns about cloud costs, latency, and privacy make it an urgent requirement to develop compact edge language models. Distinguished from direct pretraining that bounded by the scaling law, this work proposes the pruning-aware pretraining, focusing on retaining performance of much larger optimized models. It features following characteristics: 1) Data-scalable: we introduce minimal parameter groups in LLM and continuously optimize structural pruning, extending post-training pruning methods like LLM-Pruner and SparseGPT into the pretraining phase. 2) Architecture-agnostic: the LLM architecture is auto-designed using saliency-driven pruning, which is the first time to exceed SoTA human-designed LLMs in modern pretraining. We reveal that it achieves top-quality edge language models, termed EfficientLLM, by scaling up LLM compression and extending its boundary. EfficientLLM significantly outperforms SoTA baselines with $100M \sim 1B$ parameters, such as MobileLLM, SmolLM, Qwen2.5-0.5B, OLMo-1B, Llama3.2-1B in common sense benchmarks. As the first attempt, EfficientLLM bridges the performance gap between traditional LLM compression and direct pretraining methods, and we will fully open source at https://github.com/Xingrun-Xing2/EfficientLLM.

arxiv情報

著者 Xingrun Xing,Zheng Liu,Shitao Xiao,Boyan Gao,Yiming Liang,Wanpeng Zhang,Haokun Lin,Guoqi Li,Jiajun Zhang
発行日 2025-02-10 16:51:03+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG | EfficientLLM: Scalable Pruning-Aware Pretraining for Architecture-Agnostic Edge Language Models はコメントを受け付けていません

A Family of Distributions of Random Subsets for Controlling Positive and Negative Dependence

投稿日: 2025年2月11日 作成者: jarxiv

要約

正と負の依存性は、ランダムサブセットの魅力的で反発的な挙動を特徴付ける基本的な概念です。
いくつかの確率的モデルは正または負の依存性を示すことが知られていますが、実行可能な確率モデルでシームレスに橋渡しすることは困難です。
この研究では、決定的なポイントプロセスとボルツマンマシンの一部を含む離散カーネルポイントプロセス（DKPP）と呼ばれる新しい分布ファミリを紹介します。
また、確率的操作のためのいくつかの計算方法と、限界および条件付き確率の計算やパラメーターの学習など、DKPPの推論のためのいくつかの計算方法を開発します。
我々の数値実験は、正と負の依存性の制御可能性とDKPPの計算方法の有効性を示しています。

要約(オリジナル)

Positive and negative dependence are fundamental concepts that characterize the attractive and repulsive behavior of random subsets. Although some probabilistic models are known to exhibit positive or negative dependence, it is challenging to seamlessly bridge them with a practicable probabilistic model. In this study, we introduce a new family of distributions, named the discrete kernel point process (DKPP), which includes determinantal point processes and parts of Boltzmann machines. We also develop some computational methods for probabilistic operations and inference with DKPPs, such as calculating marginal and conditional probabilities and learning the parameters. Our numerical experiments demonstrate the controllability of positive and negative dependence and the effectiveness of the computational methods for DKPPs.

arxiv情報

著者 Takahiro Kawashima,Hideitsu Hino
発行日 2025-02-10 16:52:07+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML | A Family of Distributions of Random Subsets for Controlling Positive and Negative Dependence はコメントを受け付けていません

RAILS: Risk-Aware Iterated Local Search for Joint SLA Decomposition and Service Provider Management in Multi-Domain Networks

投稿日: 2025年2月11日 作成者: jarxiv

要約

第5世代（5G）テクノロジーの出現により、モバイルネットワークがマルチサービス環境に変換され、多様なサービスレベル契約（SLA）を満たすために効率的なネットワークスライシングが必要です。
さまざまなサービスプロバイダーが潜在的に管理する潜在的な複数のネットワークドメインにわたるSLA分解は、リアルタイムの基礎となるドメイン条件への可視性が限られているため、重要な課題をもたらします。
このペーパーでは、マルチドメインネットワークのSLA分解とサービスプロバイダーの選択に共同で対処するように設計された新しいリスクモデル駆動型メタヒューリスティックフレームワークである、リスク認識の繰り返しローカル検索（Rails）を紹介します。
オンラインリスクモデリングを繰り返しローカル検索原則と統合することにより、Railsはドメインコントローラーからの履歴フィードバックを利用して、複雑な最適化ランドスケープを効果的にナビゲートします。
共同問題を混合整数非線形プログラミング（MINLP）問題として定式化し、そのNPハードネスを証明します。
大規模なシミュレーションは、Railsが最適に近いパフォーマンスを達成し、最新のマルチドメインネットワークにおける適応SLA管理のための効率的でリアルタイムのソリューションを提供することを示しています。

要約(オリジナル)

The emergence of the fifth generation (5G) technology has transformed mobile networks into multi-service environments, necessitating efficient network slicing to meet diverse Service Level Agreements (SLAs). SLA decomposition across multiple network domains, each potentially managed by different service providers, poses a significant challenge due to limited visibility into real-time underlying domain conditions. This paper introduces Risk-Aware Iterated Local Search (RAILS), a novel risk model-driven meta-heuristic framework designed to jointly address SLA decomposition and service provider selection in multi-domain networks. By integrating online risk modeling with iterated local search principles, RAILS effectively navigates the complex optimization landscape, utilizing historical feedback from domain controllers. We formulate the joint problem as a Mixed-Integer Nonlinear Programming (MINLP) problem and prove its NP-hardness. Extensive simulations demonstrate that RAILS achieves near-optimal performance, offering an efficient, real-time solution for adaptive SLA management in modern multi-domain networks.

arxiv情報

著者 Cyril Shih-Huan Hsu,Chrysa Papagianni,Paola Grosso
発行日 2025-02-10 17:00:32+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, cs.NI | RAILS: Risk-Aware Iterated Local Search for Joint SLA Decomposition and Service Provider Management in Multi-Domain Networks はコメントを受け付けていません

Quantile Multi-Armed Bandits with 1-bit Feedback

投稿日: 2025年2月11日 作成者: jarxiv

要約

この論文では、リスク感受性とコミュニケーションの制約の要素を含むベストアーム識別のバリアントを研究します。
具体的には、学習者の目標は、最も高い分位の報酬で腕を識別することです。一方、エージェント（報酬を観察する人）と学習者（アクションを選択する）からのコミュニケーションは、アームプルごとに1ビットのフィードバックのみに制限されます。
ノイズの多いバイナリ検索をサブルーチンとして利用するアルゴリズムを提案し、学習者が1ビットフィードバックを通じて分位の報酬を推定できるようにします。
アルゴリズムのサンプルの複雑さにインスタンス依存の上限を導き出し、特定のインスタンスのアルゴリズムに依存しない下限を提供します。
スケーリング体制。
下限は、通信制約がない場合でも適用できます。したがって、1ビットフィードバックに制限することは、サンプルの複雑さのスケーリングに最小限の影響を与えると結論付けます。

要約(オリジナル)

In this paper, we study a variant of best-arm identification involving elements of risk sensitivity and communication constraints. Specifically, the goal of the learner is to identify the arm with the highest quantile reward, while the communication from an agent (who observes rewards) and the learner (who chooses actions) is restricted to only one bit of feedback per arm pull. We propose an algorithm that utilizes noisy binary search as a subroutine, allowing the learner to estimate quantile rewards through 1-bit feedback. We derive an instance-dependent upper bound on the sample complexity of our algorithm and provide an algorithm-independent lower bound for specific instances, with the two matching to within logarithmic factors under mild conditions, or even to within constant factors in certain low error probability scaling regimes. The lower bound is applicable even in the absence of communication constraints, and thus we conclude that restricting to 1-bit feedback has a minimal impact on the scaling of the sample complexity.

arxiv情報

著者 Ivan Lau,Jonathan Scarlett
発行日 2025-02-10 17:03:33+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.IT, cs.LG, math.IT, stat.ML | Quantile Multi-Armed Bandits with 1-bit Feedback はコメントを受け付けていません

Conformalized Strategy-Proof Auctions

投稿日: 2025年2月11日 作成者: jarxiv

要約

オークションは、売り手の収益を最大化し、買い手間の真実の入札を確保するための鍵です。
最近、機械学習（ML）に基づいた微分可能な経済学として知られるアプローチは、複数のアイテムと参加者の強力なオークションメカニズムを学習することに有望であることを示しています。
ただし、このアプローチには、テスト時に戦略防止性の保証はありません。
戦略は、バイヤーが真の評価を入札するように奨励され、操作のリスクなしに最適かつ公正なオークションの結果につながることを保証するため、戦略防止性が重要です。
この作業では、統計的戦略防止オークションメカニズムの定式化を提案し、事前定義されたしきい値を超える後悔の確率が厳密に制御されるようにします。
コンフォーマル予測技術に基づいて、データ駆動型のオークションメカニズムが高い確率で統計的戦略防止要件を満たしていることを保証するために、後悔の予測を活用するオークションの受け入れルールを開発します。
私たちのアプローチは、2つの極端な間の実用的な中間地面を表しています。ゼロレグレットを大幅に収益損失の犠牲を払って強制し、MLを使用してテスト時に低い後悔を達成することを期待してオークションを構築することです。
数値実験は、提案された方法の必要性、理論的結果の妥当性、およびその適用性を示しています。

要約(オリジナル)

Auctions are key for maximizing sellers’ revenue and ensuring truthful bidding among buyers. Recently, an approach known as differentiable economics based on machine learning (ML) has shown promise in learning powerful auction mechanisms for multiple items and participants. However, this approach has no guarantee of strategy-proofness at test time. Strategy-proofness is crucial as it ensures that buyers are incentivized to bid their true valuations, leading to optimal and fair auction outcomes without the risk of manipulation. In this work, we propose a formulation of statistical strategy-proofness auction mechanism, ensuring that the probability of regret exceeding a predefined threshold is strictly controlled. Building upon conformal prediction techniques, we develop an auction acceptance rule that leverages regret predictions to guarantee that the data-driven auction mechanism meets the statistical strategy-proofness requirement with high probability. Our approach represents a practical middle-ground between two extremes: forcing zero-regret at the cost of significant revenue loss, and naively using ML to construct auctions with the hope of attaining low regret at test time. Numerical experiments demonstrate the necessity of the proposed method, the validity of our theoretical result, and its applicability.

arxiv情報

著者 Roy Maor Lotan,Inbal Talgam-Cohen,Yaniv Romano
発行日 2025-02-10 17:06:04+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.GT, cs.LG | Conformalized Strategy-Proof Auctions はコメントを受け付けていません

No Trick, No Treat: Pursuits and Challenges Towards Simulation-free Training of Neural Samplers

投稿日: 2025年2月11日 作成者: jarxiv

要約

サンプリングの問題を検討します。ここでは、密度が正規化定数までしか知られていない分布からサンプルを描画することを目的としています。
高次元のデータ分布を近似するための生成モデリングの最近のブレークスルーは、この困難な問題のためのニューラルネットワークベースの方法の開発に大きな関心を集めました。
ただし、ニューラルサンプラーは通常、トレーニング中の軌跡をシミュレートするため、重い計算オーバーヘッドを発生します。
これは、神経サンプラーのシミュレーションのないトレーニング手順の追求を動機付けます。
この作業では、時間依存の正規化フローの助けを借りてシミュレーションを含まないトレーニングを可能にする以前の方法に対するエレガントな変更を提案します。
ただし、最終的には重度のモードの崩壊に苦しんでいます。
綿密な検査で、ほぼすべての成功したニューラルサンプラーがモードの崩壊を避けるためにLangevinの前処理に依存していることがわかります。
さまざまな目的関数を使用していくつかの一般的な方法を体系的に分析し、ランジュビンの前処理がない場合、それらのほとんどが単純なターゲットでさえ適切にカバーできないことを実証します。
最後に、最先端のMCMCメソッド、平行温度（PT）を組み合わせて、神経サンプラーの将来の探索に光を当てる追加の生成モデルを組み合わせることにより、強力なベースラインに注意を向けます。

要約(オリジナル)

We consider the sampling problem, where the aim is to draw samples from a distribution whose density is known only up to a normalization constant. Recent breakthroughs in generative modeling to approximate a high-dimensional data distribution have sparked significant interest in developing neural network-based methods for this challenging problem. However, neural samplers typically incur heavy computational overhead due to simulating trajectories during training. This motivates the pursuit of simulation-free training procedures of neural samplers. In this work, we propose an elegant modification to previous methods, which allows simulation-free training with the help of a time-dependent normalizing flow. However, it ultimately suffers from severe mode collapse. On closer inspection, we find that nearly all successful neural samplers rely on Langevin preconditioning to avoid mode collapsing. We systematically analyze several popular methods with various objective functions and demonstrate that, in the absence of Langevin preconditioning, most of them fail to adequately cover even a simple target. Finally, we draw attention to a strong baseline by combining the state-of-the-art MCMC method, Parallel Tempering (PT), with an additional generative model to shed light on future explorations of neural samplers.

arxiv情報

著者 Jiajun He,Yuanqi Du,Francisco Vargas,Dinghuai Zhang,Shreyas Padhy,RuiKang OuYang,Carla Gomes,José Miguel Hernández-Lobato
発行日 2025-02-10 17:13:11+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML | No Trick, No Treat: Pursuits and Challenges Towards Simulation-free Training of Neural Samplers はコメントを受け付けていません

Neumann eigenmaps for landmark embedding

投稿日: 2025年2月11日 作成者: jarxiv

要約

Neumann Eigenmaps（Neumaps）は、ランドマークを使用して標準の拡散マップ埋め込み、つまりデータセット内の際立ったサンプルを強化するための新しいアプローチを提示します。
これらのランドマークをより大きなデータグラフのサブグラフとして解釈することにより、Neumapsは、繰り返しのNeumann Laplacianの固有カミングを介して取得されます。
（1）サブグラフ上の反射ランダムウォークに関連する拡散距離を正確に回復する計算効率的な埋め込みを提供する2つの重要な利点があることを示します。
離散ノイマン境界条件を介したマップフレームワーク。
数字分類と分子動力学の例を通じて、Neumapsは既存のランドマークベースの埋め込み方法を改善するだけでなく、非常に重要なポイントを除去するための拡散マップ埋め込みの安定性を高めることを実証します。

要約(オリジナル)

We present Neumann eigenmaps (NeuMaps), a novel approach for enhancing the standard diffusion map embedding using landmarks, i.e distinguished samples within the dataset. By interpreting these landmarks as a subgraph of the larger data graph, NeuMaps are obtained via the eigendecomposition of a renormalized Neumann Laplacian. We show that NeuMaps offer two key advantages: (1) they provide a computationally efficient embedding that accurately recovers the diffusion distance associated with the reflecting random walk on the subgraph, and (2) they naturally incorporate the Nystr\’om extension within the diffusion map framework through the discrete Neumann boundary condition. Through examples in digit classification and molecular dynamics, we demonstrate that NeuMaps not only improve upon existing landmark-based embedding methods but also enhance the stability of diffusion map embeddings to the removal of highly significant points.

arxiv情報

著者 Shashank Sule,Wojciech Czaja
発行日 2025-02-10 17:15:11+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: 62M15, 65C50, 68T10, cs.LG, cs.NA, math.NA, math.ST, stat.ML, stat.TH | Neumann eigenmaps for landmark embedding はコメントを受け付けていません

Adaptive Reconstruction for Graph Neural Networks

投稿日: 2025年2月11日 作成者: jarxiv

要約

グラフニューラルネットワーク（GNNS）は、グラフ表現の半監視学習において基本的になり、複雑なノード関係をキャプチャする能力を活用しています。
GNN Researchの最近の傾向は、\ TextBF {Adaptive K-Hop構造学習}に焦点を当てており、固定ホップ集約を超えてより柔軟で動的な近隣選択に移行しています。
GAMLP \ Cite {Zhang_2022}は、各K-HOPドメインに個別のMLPレイヤーを採用し、コンテキスト化されたサブ構造情報を注入することにより、これを強化することにより、これらの方法を依然として依存していることに大きく依存しています。
安定した精度を維持します。
これらの制限に対処するために、K-HOP構造の学習を動的に洗練する\ textBF {Adaptive Reconstruction Framework}を提案します。
「CoreSet Selection」\ Cite {Guo2022DeepCore}に触発されたアプローチは、適応的に\ textBf {再構成}ノード近傍を再構成してメッセージの通過を最適化し、グラフ全体でより多くの\ textBf {効果的およびコンテキスト対応の情報フロー}を保証します。
構造の堅牢性をさらに強化するために、2つの重要なモジュールを紹介します：\ textbf {distance Recomputator}と\ textbf {Topology Reconstructor}（\ textcolor {blue} {drtr}）。
距離recomputator \ textBf {再評価および再編成}ノード距離は、適応グラフプロパティに基づいて距離を伸ばし、潜在的な関係をよりよく反映する\ textBF {改善されたノード埋め込み}につながります。
一方、トポロジー再構成\ textBf {ローカルグラフ構造を動的に洗練します}。モデルを\ textBf（進化するグラフトポロジに適応}にし、ノイズと誤ったデータの影響を軽減します。
経験的評価は、\ textBF {Adaptive Reconstruction Framework}が既存のK-HOPベースのモデルよりも\ TextBF {大幅な改善}を達成し、さまざまなグラフ学習ベンチマークでより多くの\ TextBF {安定した正確}パフォーマンスを提供することを示しています。

要約(オリジナル)

Graph Neural Networks (GNNs) have become fundamental in semi-supervised learning for graph representation, leveraging their ability to capture complex node relationships. A recent trend in GNN research focuses on \textbf{adaptive k-hop structure learning}, moving beyond fixed-hop aggregation to more flexible and dynamic neighborhood selection. While GAMLP \cite{Zhang_2022} employs separate MLP layers for each k-hop domain and ImprovingTE \cite{Yao2023ImprovingTE} enhances this by injecting contextualized substructure information, these methods still rely heavily on predefined sampling strategies, which may limit their ability to generalize and maintain stable accuracy. To address these limitations, we propose an \textbf{adaptive reconstruction framework} that dynamically refines k-hop structure learning. Inspired by ‘coreset selection’ \cite{guo2022deepcore}, our approach adaptively \textbf{reconstructs} node neighborhoods to optimize message passing, ensuring more \textbf{effective and context-aware information flow} across the graph. To further enhance structural robustness, we introduce two key modules: the \textbf{Distance Recomputator} and the \textbf{Topology Reconstructor} (\textcolor{blue}{DRTR}). The Distance Recomputator \textbf{reassesses and recalibrates} node distances based on adaptive graph properties, leading to \textbf{improved node embeddings} that better reflect latent relationships. Meanwhile, the Topology Reconstructor \textbf{dynamically refines local graph structures}, enabling the model to \textbf{adapt to evolving graph topologies} and mitigate the impact of noise and mislabeled data. Empirical evaluations demonstrate that our \textbf{adaptive reconstruction framework} achieves \textbf{significant improvements} over existing k-hop-based models, providing more \textbf{stable and accurate} performance in various graph learning benchmarks.

arxiv情報

著者 Dong Liu
発行日 2025-02-10 17:17:47+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG | Adaptive Reconstruction for Graph Neural Networks はコメントを受け付けていません