Co-modeling the Sequential and Graphical Routes for Peptide Representation Learning

要約

ペプチドは複数のアミノ酸が脱水縮合して形成されます。
ペプチドの一次構造は、アミノ酸配列として、または原子と化学結合からなる分子グラフとして表すことができます。
これまでの研究では、シーケンシャルおよびグラフィカルなペプチド形式に特有の深層学習ルートが、下流のタスクで同等のパフォーマンスを示すことが示されています。
これらのモデルはペプチドの同じモダリティの表現を学習するという事実にもかかわらず、それらの予測は異なる方法で説明されることがわかります。
シーケンシャル モデルとグラフィカル モデルを、異なる視点から推論を行う 2 人の専門家として考え、専門家の知識を融合して、識別パフォーマンスを向上させるために学習された表現を強化することに取り組んでいます。
これを達成するために、我々はペプチドコモデリング手法であるRepConを提案します。この手法は、対比学習ベースのフレームワークを採用して、分離された逐次モデルとグラフィカルなエンドツーエンドモデルからの表現の相互情報を強化します。
同じペプチドサンプルのシーケンシャルエンコーダーとグラフィカルエンコーダーからの表現をポジティブペアとして考慮し、ポジティブサンプルペア間の表現の一貫性を強化し、ネガティブペア間の表現を反発することを学習します。
RepCon およびその他のコモデリング手法の実証研究は、凝集傾向、保持時間、抗菌ペプチドの予測、ペプチド データベースからのファミリー分類などのオープンソースの識別データセットに対して行われます。
私たちの結果は、独立したモデリングに対する共モデリングアプローチの優位性、および共モデリングフレームワークの下での他の手法に対する RepCon の優位性を示しています。
さらに、RepCon の帰属は、モデルの説明のレベルでのアプローチの有効性をさらに裏付けます。

要約(オリジナル)

Peptides are formed by the dehydration condensation of multiple amino acids. The primary structure of a peptide can be represented either as an amino acid sequence or as a molecular graph consisting of atoms and chemical bonds. Previous studies have indicated that deep learning routes specific to sequential and graphical peptide forms exhibit comparable performance on downstream tasks. Despite the fact that these models learn representations of the same modality of peptides, we find that they explain their predictions differently. Considering sequential and graphical models as two experts making inferences from different perspectives, we work on fusing expert knowledge to enrich the learned representations for improving the discriminative performance. To achieve this, we propose a peptide co-modeling method, RepCon, which employs a contrastive learning-based framework to enhance the mutual information of representations from decoupled sequential and graphical end-to-end models. It considers representations from the sequential encoder and the graphical encoder for the same peptide sample as a positive pair and learns to enhance the consistency of representations between positive sample pairs and to repel representations between negative pairs. Empirical studies of RepCon and other co-modeling methods are conducted on open-source discriminative datasets, including aggregation propensity, retention time, antimicrobial peptide prediction, and family classification from Peptide Database. Our results demonstrate the superiority of the co-modeling approach over independent modeling, as well as the superiority of RepCon over other methods under the co-modeling framework. In addition, the attribution on RepCon further corroborates the validity of the approach at the level of model explanation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google