Harmonic Machine Learning Models are Robust

要約

Harmonic Robustness を紹介します。これは、トレーニング中またはグラウンド トゥルース ラベルを使用しないブラック ボックス リアルタイム推論モニタリングで、機械学習モデルの堅牢性をテストするための強力で直感的な方法です。
これは調和平均値特性からの関数的逸脱に基づいており、不安定性と説明可能性の欠如を示しています。
このメソッドが過学習を確実に特定する低次元ツリーとフィードフォワード NN での実装例と、イメージ クラス全体にわたる敵対的脆弱性を効率的に測定する ResNet-50 や Vision Transformer などのより複雑な高次元モデルでの実装例を示します。

要約(オリジナル)

We introduce Harmonic Robustness, a powerful and intuitive method to test the robustness of any machine-learning model either during training or in black-box real-time inference monitoring without ground-truth labels. It is based on functional deviation from the harmonic mean value property, indicating instability and lack of explainability. We show implementation examples in low-dimensional trees and feedforward NNs, where the method reliably identifies overfitting, as well as in more complex high-dimensional models such as ResNet-50 and Vision Transformer where it efficiently measures adversarial vulnerability across image classes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google