PolyCL: Contrastive Learning for Polymer Representation Learning via Explicit and Implicit Augmentations

要約

ポリマーは、その多様で調整可能な特性により、幅広い用途で重要な役割を果たします。
ポリマーの表現とその特性の間の関係を確立することは、コンピューターによる設計や機械学習による潜在的なポリマーのスクリーニングにとって重要です。
表現の品質は、これらの計算手法の有効性に大きく影響します。
ここでは、ラベルを必要とせずに高品質のポリマー表現を学習するための自己教師あり対比学習パラダイム PolyCL を紹介します。
私たちのモデルは、学習パフォーマンスを向上させるために、明示的および暗黙的な拡張戦略を組み合わせています。
この結果は、私たちのモデルが、過度に複雑なトレーニング戦略やハイパーパラメーターの最適化を行わずに、特徴抽出器として転移学習タスクで優れた、または非常に競争力のあるパフォーマンスを達成していることを示しています。
モデルの有効性をさらに高めるために、対照学習で使用されるさまざまな拡張の組み合わせについて広範な分析を実施しました。
これにより、PolyCL のパフォーマンスを最大化するための最も効果的な組み合わせが特定されました。

要約(オリジナル)

Polymers play a crucial role in a wide array of applications due to their diverse and tunable properties. Establishing the relationship between polymer representations and their properties is crucial to the computational design and screening of potential polymers via machine learning. The quality of the representation significantly influences the effectiveness of these computational methods. Here, we present a self-supervised contrastive learning paradigm, PolyCL, for learning high-quality polymer representation without the need for labels. Our model combines explicit and implicit augmentation strategies for improved learning performance. The results demonstrate that our model achieves either better, or highly competitive, performances on transfer learning tasks as a feature extractor without an overcomplicated training strategy or hyperparameter optimisation. Further enhancing the efficacy of our model, we conducted extensive analyses on various augmentation combinations used in contrastive learning. This led to identifying the most effective combination to maximise PolyCL’s performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google