Identifying Predictions That Influence the Future: Detecting Performative Concept Drift in Data Streams

要約

概念ドリフトは、ストリーム学習のコンテキスト内で広く研究されています。
ただし、展開されたモデルの予測は、システムが経験するコンセプトがドリフトする役割を果たさないとしばしば想定されています。
綿密な検査により、これは必ずしもそうではないことが明らかになりました。
自動取引は、自己実現フィードバックループの傾向がある場合があります。
同様に、悪意のあるエンティティは、敵対的な設定で検出器を回避するために適応する可能性があり、その結果、展開されたモデルが絶えず再訓練する必要がある自己挿入フィードバックループが生じます。
モデルが概念ドリフトを誘導する可能性のあるこのような設定は、パフォーマンスと呼ばれます。
この作業では、この現象を調査します。
私たちの貢献は次のとおりです。まず、ストリーム学習設定内でパフォーマンスドリフトを定義し、ドリフトの他の原因と区別します。
データストリームの潜在的なパフォーマンスの概念ドリフトを特定することを目的とした、新しいタイプのドリフト検出タスクを紹介します。
チェッカーボードパフォーマンスドリフト検出（CB-PDD）と呼ばれる最初のそのようなパフォーマンスドリフト検出アプローチを提案します。
CB-PDDは、さまざまな程度の自己実現フィードバックループを示す合成データセットと半合成データセットの両方に適用します。
結果は、CB-PDDが高い有効性、誤検出率の低さ、内発生物のドリフトに対する回復力、他のドリフト検出技術との比較可能性、および半合成データセットのパフォーマンスドリフトを効果的に検出する能力を示しています。
第二に、性能ドリフトを難読化する際に内因性（従来の）ドリフトが果たす役割を強調し、これらの発見の意味とCB-PDDの制限について議論します。

要約(オリジナル)

Concept Drift has been extensively studied within the context of Stream Learning. However, it is often assumed that the deployed model’s predictions play no role in the concept drift the system experiences. Closer inspection reveals that this is not always the case. Automated trading might be prone to self-fulfilling feedback loops. Likewise, malicious entities might adapt to evade detectors in the adversarial setting resulting in a self-negating feedback loop that requires the deployed models to constantly retrain. Such settings where a model may induce concept drift are called performative. In this work, we investigate this phenomenon. Our contributions are as follows: First, we define performative drift within a stream learning setting and distinguish it from other causes of drift. We introduce a novel type of drift detection task, aimed at identifying potential performative concept drift in data streams. We propose a first such performative drift detection approach, called CheckerBoard Performative Drift Detection (CB-PDD). We apply CB-PDD to both synthetic and semi-synthetic datasets that exhibit varying degrees of self-fulfilling feedback loops. Results are positive with CB-PDD showing high efficacy, low false detection rates, resilience to intrinsic drift, comparability to other drift detection techniques, and an ability to effectively detect performative drift in semi-synthetic datasets. Secondly, we highlight the role intrinsic (traditional) drift plays in obfuscating performative drift and discuss the implications of these findings as well as the limitations of CB-PDD.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google