要約
生成モデルは最近目覚ましい成功を収め、社会に広く普及していますが、現実的で正確な出力を生成するのに苦労することがよくあります。
この課題は、言語やビジョンを超えて、安全性が重要なエンジニアリング基準や交渉の余地のない物理法則によって許容される出力が厳しく制限されるエンジニアリング設計などの分野にまで及びます。
この研究では、避けるべきものの例である「ネガティブ データ」を使用して、生成モデルを制約を満たす出力に導くための新しいトレーニング方法を紹介します。
当社のネガティブデータ生成モデル (NDGM) の定式化は、従来のモデルを容易に上回り、特定の問題で 1/8 のデータを使用して 1/6 の制約違反サンプルを生成します。
また、他のベースラインよりも一貫して優れたパフォーマンスを示し、テストされた 14 の問題のうち 12 の問題において、他のモデルの追随を許さない制約充足と分布の類似性の間のバランスを達成しています。
この広範な優位性は、流体力学的制約のある船体合成や衝撃安全制約のある車両設計など、数多くの合成テストや実際の工学的問題にわたって厳密に実証されています。
当社のベンチマークは、新しい NDGM 定式化のクラス最高のパフォーマンスと、従来の生成モデルに対する NDGM の全体的な優位性の両方を示しています。
コードとベンチマークは https://github.com/Lyleregenwetter/NDGMs で公開されています。
要約(オリジナル)
Generative models have recently achieved remarkable success and widespread adoption in society, yet they often struggle to generate realistic and accurate outputs. This challenge extends beyond language and vision into fields like engineering design, where safety-critical engineering standards and non-negotiable physical laws tightly constrain what outputs are considered acceptable. In this work, we introduce a novel training method to guide a generative model toward constraint-satisfying outputs using `negative data’ — examples of what to avoid. Our negative-data generative model (NDGM) formulation easily outperforms classic models, generating 1/6 as many constraint-violating samples using 1/8 as much data in certain problems. It also consistently outperforms other baselines, achieving a balance between constraint satisfaction and distributional similarity that is unsurpassed by any other model in 12 of the 14 problems tested. This widespread superiority is rigorously demonstrated across numerous synthetic tests and real engineering problems, such as ship hull synthesis with hydrodynamic constraints and vehicle design with impact safety constraints. Our benchmarks showcase both the best-in-class performance of our new NDGM formulation and the overall dominance of NDGMs versus classic generative models. We publicly release the code and benchmarks at https://github.com/Lyleregenwetter/NDGMs.
arxiv情報
著者 | Lyle Regenwetter,Giorgio Giannone,Akash Srivastava,Dan Gutfreund,Faez Ahmed |
発行日 | 2024-12-02 14:20:12+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google