GAdaBoost: An Efficient and Robust AdaBoost Algorithm Based on Granular-Ball Structure

投稿日: 2025年6月18日 作成者: jarxiv

要約

特にマルチクラス分類タスクでは、適応ブースト（ADABOOST）は、ラベルノイズによってもたらされる重大な課題に直面しています。
既存の方法は、ラベルノイズを効果的に処理するメカニズムを欠いているか、冗長なデータ使用による高い計算コストに苦しむかのいずれかです。
粒状コンピューティングに触発されたこのペーパーでは、騒々しい条件下での効率と堅牢性を高めるために、データ顆粒段階と適応ブースト段階を含む新しい2段階のフレームワークである粒状適応ブースト（Gadaboost）を提案します。
その実現可能性を検証するために、gadabooost.saと呼ばれるsammeの拡張が提案されています。
具体的には、最初に、粒状ボール生成法は、多様性を維持し、ラベルノイズを緩和しながらデータを圧縮するように設計されています。
第二に、粒状ボールベースのSammeアルゴリズムは、個々のサンプルではなく粒状ボールに焦点を当てており、効率を改善し、騒音に対する感度を低下させます。
いくつかの騒々しいデータセットでの実験結果は、提案されたアプローチが既存の方法と比較して優れた堅牢性と効率を達成することを示しており、この作業がアダボーストとSammeを効果的に拡大することを示しています。

要約(オリジナル)

Adaptive Boosting (AdaBoost) faces significant challenges posed by label noise, especially in multiclass classification tasks. Existing methods either lack mechanisms to handle label noise effectively or suffer from high computational costs due to redundant data usage. Inspired by granular computing, this paper proposes granular adaptive boosting (GAdaBoost), a novel two-stage framework comprising a data granulation stage and an adaptive boosting stage, to enhance efficiency and robustness under noisy conditions. To validate its feasibility, an extension of SAMME, termed GAdaBoost.SA, is proposed. Specifically, first, a granular-ball generation method is designed to compress data while preserving diversity and mitigating label noise. Second, the granular ball-based SAMME algorithm focuses on granular balls rather than individual samples, improving efficiency and reducing sensitivity to noise. Experimental results on some noisy datasets show that the proposed approach achieves superior robustness and efficiency compared with existing methods, demonstrating that this work effectively extends AdaBoost and SAMME.

arxiv情報

著者 Qin Xie,Qinghua Zhang,Shuyin Xia,Xinran Zhou,Guoyin Wang
発行日 2025-06-17 14:21:52+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG | GAdaBoost: An Efficient and Robust AdaBoost Algorithm Based on Granular-Ball Structure はコメントを受け付けていません

Single-Example Learning in a Mixture of GPDMs with Latent Geometries

投稿日: 2025年6月18日 作成者: jarxiv

要約

ガウスプロセス動的混合モデル（GPDMM）を提示し、人間のモーションデータの単一例学習におけるその有用性を示します。
ガウスプロセス動的モデル（GPDM）は、ガウスプロセス潜在変数モデル（GPLVM）の形式ですが、隠されたマルコフモデルの動的事前で最適化されています。
GPDMMは、確率的混合混合フレームワークで複数のGPDMを組み合わせて、埋め込まれた幾何学的特徴を利用して、単一の潜在空間で多様なシーケンスをエンコードできるようにし、各シーケンスクラスの分類と生成を可能にします。
GPDMSと私たちの混合モデルは、データが制限され、モデルの解釈が不可欠であるシナリオで人間の動きをモデル化するという課題に対処する上で特に有利です。
単一例学習、モデルのバリエーションを紹介し、LSTMS、VAE、および変圧器に対するベンチマークにおける分類精度と生成能力に関するGPDMMを獲得します。

要約(オリジナル)

We present the Gaussian process dynamical mixture model (GPDMM) and show its utility in single-example learning of human motion data. The Gaussian process dynamical model (GPDM) is a form of the Gaussian process latent variable model (GPLVM), but optimized with a hidden Markov model dynamical prior. The GPDMM combines multiple GPDMs in a probabilistic mixture-of-experts framework, utilizing embedded geometric features to allow for diverse sequences to be encoded in a single latent space, enabling the categorization and generation of each sequence class. GPDMs and our mixture model are particularly advantageous in addressing the challenges of modeling human movement in scenarios where data is limited and model interpretability is vital, such as in patient-specific medical applications like prosthesis control. We score the GPDMM on classification accuracy and generative ability in single-example learning, showcase model variations, and benchmark it against LSTMs, VAEs, and transformers.

arxiv情報

著者 Jesse St. Amand,Leonardo Gizzi,Martin A. Giese
発行日 2025-06-17 14:22:07+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG | Single-Example Learning in a Mixture of GPDMs with Latent Geometries はコメントを受け付けていません

The Perception of Phase Intercept Distortion and its Application in Data Augmentation

投稿日: 2025年6月18日 作成者: jarxiv

要約

位相の歪みとは、信号内の周波数間の位相関係の変化を指します。これは知覚可能な場合があります。
このホワイトペーパーでは、周波数に依存しない位相シフトによって作成される位相迎撃歪みとして知られる位相歪みの特殊なケースについて説明します。
この形式の歪みは、信号の波形を大幅に変化させるが、歪みは知覚できないと仮定します。
この仮説と一致する人間被験者の実験結果が報告されています。
さらに、特にデータの増強には、位相迎撃の歪みの知覚性が機械学習にどのように役立つかについて説明します。
データ増強への新しいアプローチとして、位相迎撃歪みを使用して複数の実験を実施し、オーディオ機械学習タスクの改善結果を得ました。

要約(オリジナル)

Phase distortion refers to the alteration of the phase relationships between frequencies in a signal, which can be perceptible. In this paper, we discuss a special case of phase distortion known as phase-intercept distortion, which is created by a frequency-independent phase shift. We hypothesize that, though this form of distortion changes a signal’s waveform significantly, the distortion is imperceptible. Human-subject experiment results are reported which are consistent with this hypothesis. Furthermore, we discuss how the imperceptibility of phase-intercept distortion can be useful for machine learning, specifically for data augmentation. We conducted multiple experiments using phase-intercept distortion as a novel approach to data augmentation, and obtained improved results for audio machine learning tasks.

arxiv情報

著者 Venkatakrishnan Vaidyanathapuram Krishnan,Nathaniel Condit-Schultz
発行日 2025-06-17 14:28:14+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, eess.AS, eess.SP | The Perception of Phase Intercept Distortion and its Application in Data Augmentation はコメントを受け付けていません

Low-Rank Thinning

投稿日: 2025年6月18日 作成者: jarxiv

要約

薄くなる目標は、小さなポイントの小さなセットを使用してデータセットを要約することです。
驚くべきことに、カーネルの半分や圧縮などのガウス薄薄化アルゴリズムは、均一なサブサンプリングの品質と一致し、要約ポイントの数を大幅に減らします。
ただし、既存の保証は、制限された分布範囲とカーネルベースの品質測定のみをカバーし、悲観的な次元依存性に苦しんでいます。
これらの欠陥に対処するために、カーネルまたはデータマトリックスがほぼ低ランクである場合はいつでも高品質の圧縮を保証する、分布およびカーネルに適用されるサブガウス薄化の新しい低ランク分析を導入します。
技術の幅広い適用性を実証するために、トランスの注意を近似し、並べ替えによる確率勾配トレーニングを加速するための最もよく知られている保証を改善する実用的なサブガウス薄化アプローチを設計し、直線的な時間における分布を区別します。

要約(オリジナル)

The goal in thinning is to summarize a dataset using a small set of representative points. Remarkably, sub-Gaussian thinning algorithms like Kernel Halving and Compress can match the quality of uniform subsampling while substantially reducing the number of summary points. However, existing guarantees cover only a restricted range of distributions and kernel-based quality measures and suffer from pessimistic dimension dependence. To address these deficiencies, we introduce a new low-rank analysis of sub-Gaussian thinning that applies to any distribution and any kernel, guaranteeing high-quality compression whenever the kernel or data matrix is approximately low-rank. To demonstrate the broad applicability of the techniques, we design practical sub-Gaussian thinning approaches that improve upon the best known guarantees for approximating attention in transformers, accelerating stochastic gradient training through reordering, and distinguishing distributions in near-linear time.

arxiv情報

著者 Annabelle Michael Carrell,Albert Gong,Abhishek Shetty,Raaz Dwivedi,Lester Mackey
発行日 2025-06-17 14:45:22+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, math.OC, math.ST, stat.ME, stat.ML, stat.TH | Low-Rank Thinning はコメントを受け付けていません

Variational Bayesian Bow tie Neural Networks with Shrinkage

投稿日: 2025年6月18日 作成者: jarxiv

要約

機械学習における深いモデルの支配的な役割にもかかわらず、自信過剰の予測、敵対的攻撃に対する感受性、予測の変動の過小評価など、制限は持続します。
ベイジアンパラダイムは、そのような問題を克服するための自然なフレームワークを提供し、深いモデルで不確実性推定のゴールドスタンダードになり、精度の向上と重要なハイパーパラメーターを調整するためのフレームワークも提供します。
ただし、正確なベイジアン推論は困難であり、通常、強い独立性と分布の仮定を課す変分アルゴリズムを含みます。
さらに、既存の方法は、ネットワークのアーキテクチャの選択に敏感です。
標準のフィードフォワード整流ニューラルネットワークの確率的緩和に焦点を当て、ニューラルネットワークの重みにスパースを促進するプライアーを使用して、建築設計に堅牢性を高めることにより、これらの問題に対処します。
条件付き線形モデルとガウスモデルをレンダリングするPolya-Gammaデータ増強トリックのおかげで、分布の仮定と層全体の独立性を回避する高速で近似変分推論アルゴリズムを導き出します。
スケーラビリティをさらに向上させ、マルチモダリティを説明するための適切な戦略が考慮されます。

要約(オリジナル)

Despite the dominant role of deep models in machine learning, limitations persist, including overconfident predictions, susceptibility to adversarial attacks, and underestimation of variability in predictions. The Bayesian paradigm provides a natural framework to overcome such issues and has become the gold standard for uncertainty estimation with deep models, also providing improved accuracy and a framework for tuning critical hyperparameters. However, exact Bayesian inference is challenging, typically involving variational algorithms that impose strong independence and distributional assumptions. Moreover, existing methods are sensitive to the architectural choice of the network. We address these issues by focusing on a stochastic relaxation of the standard feed-forward rectified neural network and using sparsity-promoting priors on the weights of the neural network for increased robustness to architectural design. Thanks to Polya-Gamma data augmentation tricks, which render a conditionally linear and Gaussian model, we derive a fast, approximate variational inference algorithm that avoids distributional assumptions and independence across layers. Suitable strategies to further improve scalability and account for multimodality are considered.

arxiv情報

著者 Alisa Sheinkman,Sara Wade
発行日 2025-06-17 14:49:16+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, math.ST, stat.ME, stat.ML, stat.TH | Variational Bayesian Bow tie Neural Networks with Shrinkage はコメントを受け付けていません

SCISSOR: Mitigating Semantic Bias through Cluster-Aware Siamese Networks for Robust Classification

投稿日: 2025年6月18日 作成者: jarxiv

要約

ショートカット学習は、分散除外データへのモデルの一般化を損ないます。
文献は、ショートカットを表面的な特徴のバイアスに帰しますが、サンプル埋め込みのセマンティック分布の不均衡が偽のセマンティック相関を誘発し、モデルの堅牢性を損なうことを示します。
この問題に対処するために、ショートカットとして悪用される潜在的なクラスターを思いとどまらせることでセマンティックスペースを再マップするシャムネットワークベースの紛失アプローチである、シザー（ショートカットを抑制するためのセマンティッククラスター介入）を提案します。
以前のデータ脱バイアシングアプローチとは異なり、サイザーはデータの増強と書き換えの必要性を排除します。
4つのベンチマークの6つのモデルでサイザーを評価します。Chest-XrayとNot-Mnist in Computer Vision、およびNLPタスクのGyafcとYelpです。
いくつかのベースラインと比較して、ScissorはGYAFCでF1スコアの+5.3絶対ポイント、Yelpの+7.3、Chest-Xrayで+7.7、Not-Mnistで+1を報告しています。
シザーは、コンピュータービジョンデータセットでのVITのF1が約9.5％改善された軽量モデルでも非常に有利であり、NLPでのBERTで〜11.9％です。
私たちの研究は、見落とされたセマンティックバイアスに対処し、シザーをショートカット学習を緩和し、より堅牢でバイアス耐性のAIシステムを促進するための基礎的な枠組みとして確立することにより、モデルの一般化の景観を再定義します。

要約(オリジナル)

Shortcut learning undermines model generalization to out-of-distribution data. While the literature attributes shortcuts to biases in superficial features, we show that imbalances in the semantic distribution of sample embeddings induce spurious semantic correlations, compromising model robustness. To address this issue, we propose SCISSOR (Semantic Cluster Intervention for Suppressing ShORtcut), a Siamese network-based debiasing approach that remaps the semantic space by discouraging latent clusters exploited as shortcuts. Unlike prior data-debiasing approaches, SCISSOR eliminates the need for data augmentation and rewriting. We evaluate SCISSOR on 6 models across 4 benchmarks: Chest-XRay and Not-MNIST in computer vision, and GYAFC and Yelp in NLP tasks. Compared to several baselines, SCISSOR reports +5.3 absolute points in F1 score on GYAFC, +7.3 on Yelp, +7.7 on Chest-XRay, and +1 on Not-MNIST. SCISSOR is also highly advantageous for lightweight models with ~9.5% improvement on F1 for ViT on computer vision datasets and ~11.9% for BERT on NLP. Our study redefines the landscape of model generalization by addressing overlooked semantic biases, establishing SCISSOR as a foundational framework for mitigating shortcut learning and fostering more robust, bias-resistant AI systems.

arxiv情報

著者 Shuo Yang,Bardh Prenkaj,Gjergji Kasneci
発行日 2025-06-17 14:49:29+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG | SCISSOR: Mitigating Semantic Bias through Cluster-Aware Siamese Networks for Robust Classification はコメントを受け付けていません

Deep Learning Surrogates for Real-Time Gas Emission Inversion

投稿日: 2025年6月18日 作成者: jarxiv

要約

一時的な大気条件下での温室効果ガス排出量のリアルタイムの識別と定量化は、環境監視における重要な課題です。
動的なフローフィールドでの排出速度とソース位置の両方のベイジアン推論を実行するために、シーケンシャルモンテカルロアルゴリズム内に計算流体力学（CFD）の深い学習代理を埋め込む空間的反転フレームワークを導入します。
高忠実度のCFD出力で訓練された多層パーセプトロンで費用のかかる数値ソルバーを置き換えることにより、私たちの代理は、ガス分散の空間的不均一性と時間的進化をキャプチャし、ほぼ実践的な時間の予測を提供します。
Chilboltonメタンリリースデータセットの検証は、完全なCFDソルバーとガウスプルームモデルに匹敵する精度を示していますが、マグニチュードの順調なランタイムを実現します。
シミュレートされた妨害されたフローシナリオの下でのさらなる実験は、複雑な環境での堅牢性を確認します。
この作業は、物理的な忠実度と計算の実現可能性と調整され、環境および科学モデリングにおける産業排出量モニタリングおよびその他の時間に敏感な時空間反転タスクのためのスケーラブルなソリューションを提供します。

要約(オリジナル)

Real-time identification and quantification of greenhouse-gas emissions under transient atmospheric conditions is a critical challenge in environmental monitoring. We introduce a spatio-temporal inversion framework that embeds a deep-learning surrogate of computational fluid dynamics (CFD) within a sequential Monte Carlo algorithm to perform Bayesian inference of both emission rate and source location in dynamic flow fields. By substituting costly numerical solvers with a multilayer perceptron trained on high-fidelity CFD outputs, our surrogate captures spatial heterogeneity and temporal evolution of gas dispersion, while delivering near-real-time predictions. Validation on the Chilbolton methane release dataset demonstrates comparable accuracy to full CFD solvers and Gaussian plume models, yet achieves orders-of-magnitude faster runtimes. Further experiments under simulated obstructed-flow scenarios confirm robustness in complex environments. This work reconciles physical fidelity with computational feasibility, offering a scalable solution for industrial emissions monitoring and other time-sensitive spatio-temporal inversion tasks in environmental and scientific modeling.

arxiv情報

著者 Thomas Newman,Christopher Nemeth,Matthew Jones,Philip Jonathan
発行日 2025-06-17 15:03:21+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.AP, stat.ML | Deep Learning Surrogates for Real-Time Gas Emission Inversion はコメントを受け付けていません

Checkmating One, by Using Many: Combining Mixture of Experts with MCTS to Improve in Chess

投稿日: 2025年6月18日 作成者: jarxiv

要約

Chessのようなゲームでは、戦略は異なる段階で劇的に進化します – オープニング、ミドルゲーム、およびエンドゲームは、それぞれの推論と意思決定の異なる形式の形態を要求します。
しかし、多くの最新のチェスエンジンは、単一のニューラルネットワークに依存してゲーム全体を均一に再生し、専門化する機会が欠けていることがよくあります。
この作業では、M2CTSを紹介します。M2CTは、専門家の混合物とモンテカルロツリー検索を組み合わせて、ゲームフェーズに基づいて戦略を動的に適応させるモジュラーフレームワークを紹介します。
ニューラルネットワークをトレーニングするための3つの異なる方法、分離学習、段階的学習、加重学習の3つの方法を探ります。
各フェーズでトレーニングされた専門のニューラルネットワークを通じて決定をルーティングすることにより、M2CTSは計算効率と再生強度の両方を改善します。
チェスの実験では、M2CTSは標準のシングルモデルベースラインよりも最大+122 ELOを達成し、Pommermanなどのマルチエージェントドメインに有望な一般化を示しています。
これらの結果は、モジュール式の位相認識システムがゲームの構造化された性質とより適合し、問題を多くの小さなユニットに分割する際に、人間のような行動に近づく方法を強調しています。

要約(オリジナル)

In games like chess, strategy evolves dramatically across distinct phases – the opening, middlegame, and endgame each demand different forms of reasoning and decision-making. Yet, many modern chess engines rely on a single neural network to play the entire game uniformly, often missing opportunities to specialize. In this work, we introduce M2CTS, a modular framework that combines Mixture of Experts with Monte Carlo Tree Search to adapt strategy dynamically based on game phase. We explore three different methods for training the neural networks: Separated Learning, Staged Learning, and Weighted Learning. By routing decisions through specialized neural networks trained for each phase, M2CTS improves both computational efficiency and playing strength. In experiments on chess, M2CTS achieves up to +122 Elo over standard single-model baselines and shows promising generalization to multi-agent domains such as Pommerman. These results highlight how modular, phase-aware systems can better align with the structured nature of games and move us closer to human-like behavior in dividing a problem into many smaller units.

arxiv情報

著者 Felix Helfenstein,Johannes Czech,Jannis Blüml,Max Eisel,Kristian Kersting
発行日 2025-06-17 15:05:12+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG | Checkmating One, by Using Many: Combining Mixture of Experts with MCTS to Improve in Chess はコメントを受け付けていません

Expressive Score-Based Priors for Distribution Matching with Geometry-Preserving Regularization

投稿日: 2025年6月18日 作成者: jarxiv

要約

分布マッチング（DM）は、公正な分類、ドメイン適応、ドメイン翻訳などのタスクに適用されている多用途のドメイン不変表現学習技術です。
ノンパラメトリックDMメソッドは、スケーラビリティと敵対的なDMアプローチに苦労しており、不安定性とモードの崩壊に苦しんでいます。
尤度ベースの方法は有望な代替手段ですが、しばしば固定の事前に不必要なバイアスを課したり、訓練に挑戦する可能性のある明示的な密度モデル（フローなど）を必要とします。
表現力豊かなスコアベースの事前分布を使用して、尤度ベースのDMをトレーニングするための新しいアプローチを導入することにより、この制限に対処します。
私たちの重要な洞察は、グラデーションベースのDMトレーニングには、その密度ではなく、事前のスコア関数のみが必要であるということです。
このアプローチは、固定されたプライアー（例えば、VAES）からのバイアスを排除し、明示的な事前密度モデル（フローベースの事前）を学習するという課題を回避しながら、ジオメトリを提供する正則化のより効果的な使用を可能にします。
また、私たちの方法は、他の拡散ベースのプライアー（例：LSGM）と比較して、より良い安定性と計算効率を示しています。
さらに、実験は複数のタスクで優れたパフォーマンスを示し、分布マッチングに対する安定した効果的なアプローチとしてスコアベースの方法を確立します。
https://github.com/inouye-lab/saubで入手可能なソースコード。

要約(オリジナル)

Distribution matching (DM) is a versatile domain-invariant representation learning technique that has been applied to tasks such as fair classification, domain adaptation, and domain translation. Non-parametric DM methods struggle with scalability and adversarial DM approaches suffer from instability and mode collapse. While likelihood-based methods are a promising alternative, they often impose unnecessary biases through fixed priors or require explicit density models (e.g., flows) that can be challenging to train. We address this limitation by introducing a novel approach to training likelihood-based DM using expressive score-based prior distributions. Our key insight is that gradient-based DM training only requires the prior’s score function — not its density — allowing us to train the prior via denoising score matching. This approach eliminates biases from fixed priors (e.g., in VAEs), enabling more effective use of geometry-preserving regularization, while avoiding the challenge of learning an explicit prior density model (e.g., a flow-based prior). Our method also demonstrates better stability and computational efficiency compared to other diffusion-based priors (e.g., LSGM). Furthermore, experiments demonstrate superior performance across multiple tasks, establishing our score-based method as a stable and effective approach to distribution matching. Source code available at https://github.com/inouye-lab/SAUB.

arxiv情報

著者 Ziyu Gong,Jim Lim,David I. Inouye
発行日 2025-06-17 15:08:16+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CY, cs.LG | Expressive Score-Based Priors for Distribution Matching with Geometry-Preserving Regularization はコメントを受け付けていません

Feasibility-Driven Trust Region Bayesian Optimization

投稿日: 2025年6月18日 作成者: jarxiv

要約

Bayesian Optimizationは、厳しい評価予算の下で実際の最適化タスクを解決するための強力なツールであり、費用のかかるシミュレーションや実験を含むアプリケーションに適しています。
ただし、これらのタスクの多くは、分析的定式化が不明であり、しばしば実行可能な領域が小さく、不規則で、識別が困難な高次元空間で定義される高価な制約の存在によっても特徴付けられます。
そのような場合、最適化予算のかなりの部分は、既存の方法の有効性を制限する最初の実行可能なソリューションを見つけようとするだけで費やすことができます。
この作業では、実現可能性駆動型の信頼地域のベイジアン最適化（Furbo）アルゴリズムを提示します。
Furboは、客観的な代理モデルと制約の両方の代理モデルからの情報を使用して、次の候補ソリューションが選択される信頼領域を繰り返し定義します。
当社の適応戦略により、Trust Regionは反復間で大幅にシフトしてサイズを変更することができ、オプティマイザーが検索を迅速に再び焦点を合わせ、実現可能な質の高いソリューションの発見を一貫して加速させることができます。
BBOBが制約した完全なCoCoベンチマークスイートおよびその他の物理学にインスパイアされたベンチマークでの広範なテストを通じて、Furboの有効性を経験的に実証し、2から60の範囲の制約重大度と問題の次元のさまざまなレベルにわたって制約されたブラックボックスの最適化のための最先端のベースラインと比較します。

要約(オリジナル)

Bayesian optimization is a powerful tool for solving real-world optimization tasks under tight evaluation budgets, making it well-suited for applications involving costly simulations or experiments. However, many of these tasks are also characterized by the presence of expensive constraints whose analytical formulation is unknown and often defined in high-dimensional spaces where feasible regions are small, irregular, and difficult to identify. In such cases, a substantial portion of the optimization budget may be spent just trying to locate the first feasible solution, limiting the effectiveness of existing methods. In this work, we present a Feasibility-Driven Trust Region Bayesian Optimization (FuRBO) algorithm. FuRBO iteratively defines a trust region from which the next candidate solution is selected, using information from both the objective and constraint surrogate models. Our adaptive strategy allows the trust region to shift and resize significantly between iterations, enabling the optimizer to rapidly refocus its search and consistently accelerate the discovery of feasible and good-quality solutions. We empirically demonstrate the effectiveness of FuRBO through extensive testing on the full BBOB-constrained COCO benchmark suite and other physics-inspired benchmarks, comparing it against state-of-the-art baselines for constrained black-box optimization across varying levels of constraint severity and problem dimensionalities ranging from 2 to 60.

arxiv情報

著者 Paolo Ascia,Elena Raponi,Thomas Bäck,Fabian Duddeck
発行日 2025-06-17 15:16:22+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG | Feasibility-Driven Trust Region Bayesian Optimization はコメントを受け付けていません