Runtime Detection of Adversarial Attacks in AI Accelerators Using Performance Counters

要約

AIテクノロジーの迅速な採用は、AIアプリケーションの機密性と完全性を脅かす敵対的な摂動のリスクを含む、いくつかの主要なセキュリティ上の懸念を引き起こします。
AIハードウェアを誤用や多様なセキュリティの脅威から保護することは、困難な作業です。
この課題に対処するために、AIハードウェアの悪意のある使用と攻撃に対する回復力に対する保護のための新しいフレームワークであるSamuraiを提案します。
Samuraiは、AIモデルの動的動作を追跡するためのAIパフォーマンスカウンター（APC）を導入します。AIモデルと、Tantoとして知られるオンチップ機械学習（ML）分析エンジン（Trace Tuservationによる訓練された異常検査）を追跡します。
APCは、さまざまなAI操作の低レベルのハードウェアイベントのランタイムプロファイルを記録します。
その後、APCによって記録された概要情報はTantoによって処理され、潜在的なセキュリティ侵害を効率的に特定し、AIの安全で責任ある使用を確保します。
Samuraiは、モデルの統合を必要とする従来のソフトウェアベースのソリューションに依存することなく、セキュリティの脅威をリアルタイムで検出し、誤用を可能にします。
実験結果は、サムライがさまざまなAIモデルで中程度のオーバーヘッドで敵対攻撃を検出する際に最大97％の精度を達成し、従来のソフトウェアベースのアプローチを大幅に上回ることを示しています。
これにより、セキュリティと規制のコンプライアンスが強化され、AIを緊急の脅威に対して保護するための包括的なソリューションを提供します。

要約(オリジナル)

Rapid adoption of AI technologies raises several major security concerns, including the risks of adversarial perturbations, which threaten the confidentiality and integrity of AI applications. Protecting AI hardware from misuse and diverse security threats is a challenging task. To address this challenge, we propose SAMURAI, a novel framework for safeguarding against malicious usage of AI hardware and its resilience to attacks. SAMURAI introduces an AI Performance Counter (APC) for tracking dynamic behavior of an AI model coupled with an on-chip Machine Learning (ML) analysis engine, known as TANTO (Trained Anomaly Inspection Through Trace Observation). APC records the runtime profile of the low-level hardware events of different AI operations. Subsequently, the summary information recorded by the APC is processed by TANTO to efficiently identify potential security breaches and ensure secure, responsible use of AI. SAMURAI enables real-time detection of security threats and misuse without relying on traditional software-based solutions that require model integration. Experimental results demonstrate that SAMURAI achieves up to 97% accuracy in detecting adversarial attacks with moderate overhead on various AI models, significantly outperforming conventional software-based approaches. It enhances security and regulatory compliance, providing a comprehensive solution for safeguarding AI against emergent threats.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google