Splicing Up Your Predictions with RNA Contrastive Learning

要約

ゲノムデータが急速に蓄積しているにもかかわらず、RNA 制御コードの理解は不完全なままです。
他の分野における最近の自己教師あり手法では、言語の文構造などのデータ生成プロセスの基礎となるルールを学習できることが実証されています。
これに触発されて、私たちは、選択的スプライシングと遺伝子重複によって生成された配列間の機能的類似性を利用することにより、対比学習技術をゲノムデータに拡張しました。
私たちの新しいデータセットと対照的な目的により、一般化された RNA アイソフォーム表現の学習が可能になります。
私たちは、RNA 半減期や平均リボソーム負荷予測などの下流タスクでの有用性を検証します。
私たちの事前トレーニング戦略は、両方のタスクで線形プローブを使用して競合する結果をもたらし、低データ条件でピアソン相関が最大 2 倍増加します。
重要なのは、学習された潜在空間の探索により、私たちの対照的な目的が意味的に意味のある表現を生み出すことが明らかになり、RNA特性予測のための貴重な初期化技術としての可能性が強調されることです。

要約(オリジナル)

In the face of rapidly accumulating genomic data, our understanding of the RNA regulatory code remains incomplete. Recent self-supervised methods in other domains have demonstrated the ability to learn rules underlying the data-generating process such as sentence structure in language. Inspired by this, we extend contrastive learning techniques to genomic data by utilizing functional similarities between sequences generated through alternative splicing and gene duplication. Our novel dataset and contrastive objective enable the learning of generalized RNA isoform representations. We validate their utility on downstream tasks such as RNA half-life and mean ribosome load prediction. Our pre-training strategy yields competitive results using linear probing on both tasks, along with up to a two-fold increase in Pearson correlation in low-data conditions. Importantly, our exploration of the learned latent space reveals that our contrastive objective yields semantically meaningful representations, underscoring its potential as a valuable initialization technique for RNA property prediction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google