Quantum Attention for Vision Transformers in High Energy Physics

要約

我々は、高エネルギー物理学アプリケーションのパフォーマンスと計算効率を向上させるために、量子直交ニューラル ネットワーク (QONN) を組み込んだ新しいハイブリッド量子古典ビジョン トランスフォーマー アーキテクチャを提案します。
量子ビジョン変換器の進歩に基づいて、私たちのアプローチは、高次元空間での安定性や効率的なパラメータ化など、QONN の固有の利点を活用することで、以前のモデルの限界に対処します。
私たちは、CMS オープンデータからのマルチ検出器ジェット画像を使用して、クォーク開始ジェ​​ットとグルーオン開始ジェットを区別するタスクに焦点を当てて、提案されたアーキテクチャを評価します。
この結果は、アテンション メカニズム内に量子直交変換を埋め込むことで、今後の高輝度大型ハドロン衝突型加速器に関連する機械学習の課題に対して有望なスケーラビリティを提供しながら、堅牢なパフォーマンスを提供できることを示しています。
この研究は、次世代の素粒子物理学実験の計算需要に対処するための量子強化モデルの可能性を強調しています。

要約(オリジナル)

We present a novel hybrid quantum-classical vision transformer architecture incorporating quantum orthogonal neural networks (QONNs) to enhance performance and computational efficiency in high-energy physics applications. Building on advancements in quantum vision transformers, our approach addresses limitations of prior models by leveraging the inherent advantages of QONNs, including stability and efficient parameterization in high-dimensional spaces. We evaluate the proposed architecture using multi-detector jet images from CMS Open Data, focusing on the task of distinguishing quark-initiated from gluon-initiated jets. The results indicate that embedding quantum orthogonal transformations within the attention mechanism can provide robust performance while offering promising scalability for machine learning challenges associated with the upcoming High Luminosity Large Hadron Collider. This work highlights the potential of quantum-enhanced models to address the computational demands of next-generation particle physics experiments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google