QKSAN: A Quantum Kernel Self-Attention Network

要約

Self-Attention Mechanism (SAM) は、データの内部から重要な情報を抽出してモデルの計算効率を向上させることに優れています。
それにもかかわらず、多くの量子機械学習 (QML) モデルには、SAM のような情報の本質的なつながりを区別する機能が欠けており、大規模な高次元量子データに対する有効性が制限されます。
この問題に対処するために、量子カーネル セルフ アテンション メカニズム (QKSAM) が導入されています。これは、量子カーネル メソッド (QKM) のデータ表現の利点と SAM の効率的な情報抽出機能を組み合わせたものです。
量子カーネル セルフ アテンション ネットワーク (QKSAN) フレームワークは、遅延測定原理 (DMP) と条件付き測定技術を備えた QKSAM に基づいて構築されており、計算中の確率的測定により量子リソースの半分を解放します。
量子カーネル セルフ アテンション スコア (QKSAS) は測定条件を決定し、量子システムの確率的性質を反映します。
最後に、4 つの QKSAN モデルが Pennylane プラットフォームにデプロイされ、MNIST イメージに対してバイナリ分類が実行されます。
4 つのモデルの中で最も優れたパフォーマンスを示すモデルが、ノイズ耐性と学習能力に関して評価されます。
注目すべきことに、部分 QKSAN モデルの古典的な深層学習に対する潜在的な学習上の利点は、高度に圧縮された画像であっても、テストとトレーニングの精度が 98\% $\pm$ 1\% という高いリターンを得るために必要なパラメータが少ないことです。
QKSAN は、量子自然言語処理 (NLP) などの分野の進歩を促進しながら、大量のデータに対して機械学習を実行するための将来の量子コンピューターの基盤を築きます。

要約(オリジナル)

Self-Attention Mechanism (SAM) is skilled at extracting important information from the interior of data to improve the computational efficiency of models. Nevertheless, many Quantum Machine Learning (QML) models lack the ability to distinguish the intrinsic connections of information like SAM, which limits their effectiveness on massive high-dimensional quantum data. To address this issue, a Quantum Kernel Self-Attention Mechanism (QKSAM) is introduced, which combines the data representation benefit of Quantum Kernel Methods (QKM) with the efficient information extraction capability of SAM. A Quantum Kernel Self-Attention Network (QKSAN) framework is built based on QKSAM, with Deferred Measurement Principle (DMP) and conditional measurement techniques, which releases half of the quantum resources with probabilistic measurements during computation. The Quantum Kernel Self-Attention Score (QKSAS) determines the measurement conditions and reflects the probabilistic nature of quantum systems. Finally, four QKSAN models are deployed on the Pennylane platform to perform binary classification on MNIST images. The best-performing among the four models is assessed for noise immunity and learning ability. Remarkably, the potential learning benefit of partial QKSAN models over classical deep learning is that they require few parameters for a high return of 98\% $\pm$ 1\% test and train accuracy, even with highly compressed images. QKSAN lays the foundation for future quantum computers to perform machine learning on massive amounts of data, while driving advances in areas such as quantum Natural Language Processing (NLP).

arxiv情報

提供元, 利用サービス

arxiv.jp, Google