EventTrojan: Manipulating Non-Intrusive Speech Quality Assessment via Imperceptible Events

要約

非侵入型音声品質評価 (NISQA) は、参照音声を必要とせずに音声の平均オピニオン スコア (MOS) を予測するため、大きな注目を集めています。
研究者たちは、NISQA をさまざまな実際的なシナリオに徐々に適用し始めています。
しかし、NISQA モデルのセキュリティにはほとんど注意が払われてきませんでした。
バックドア攻撃は、一度組み込まれると非常に高い攻撃成功率を示すため、ディープ ニューラル ネットワーク (DNN) にとって最も深刻な脅威となります。
ただし、既存のバックドア攻撃は、攻撃者が推論フェーズ中にトリガーを含むサンプルをモデルに積極的にフィードすることを前提としています。
これは、NISQA の特定のシナリオには適応されていません。
また、回帰タスクに対する現在のバックドア攻撃には、攻撃のパフォーマンスを測定するための客観的な指標がありません。
これらの問題に対処するために、NISQA モデルの使用中のイベントをトリガーとして利用する、新しいバックドア トリガー アプローチ (EventTrojan) を提案します。
さらに、回帰タスクに対するバックドア攻撃に対する客観的な指標を革新的に提供します。
4 つのベンチマーク データセットに対する広範な実験により、EventTrojan 攻撃の有効性が実証されました。
さらに、いくつかの防御方法に対する耐性も優れています。

要約(オリジナル)

Non-Intrusive speech quality assessment (NISQA) has gained significant attention for predicting speech’s mean opinion score (MOS) without requiring the reference speech. Researchers have gradually started to apply NISQA to various practical scenarios. However, little attention has been paid to the security of NISQA models. Backdoor attacks represent the most serious threat to deep neural networks (DNNs) due to the fact that backdoors possess a very high attack success rate once embedded. However, existing backdoor attacks assume that the attacker actively feeds samples containing triggers into the model during the inference phase. This is not adapted to the specific scenario of NISQA. And current backdoor attacks on regression tasks lack an objective metric to measure the attack performance. To address these issues, we propose a novel backdoor triggering approach (EventTrojan) that utilizes an event during the usage of the NISQA model as a trigger. Moreover, we innovatively provide an objective metric for backdoor attacks on regression tasks. Extensive experiments on four benchmark datasets demonstrate the effectiveness of the EventTrojan attack. Besides, it also has good resistance to several defense methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google