On the feasibility of attacking Thai LPR systems with adversarial examples

要約

ディープ ニューラル ネットワーク (DNN) の最近の進歩により、光学式文字認識 (OCR) テクノロジの機能が大幅に強化され、さまざまな実世界のアプリケーションに採用できるようになりました。
この成功にもかかわらず、DNN ベースの OCR は敵対的攻撃に対して脆弱であることが示されています。敵対者は、モデルへの入力を慎重に操作することにより、DNN モデルの予測に影響を与えることができます。
以前の研究では、さまざまな OCR 言語に対する敵対的攻撃のセキュリティへの影響が実証されています。
しかし、これまでのところ、タイ語専用に調整された OCR システムで実施および評価された研究はありません。
このギャップを埋めるために、この作業では、特定のタイの OCR アプリケーションであるタイのナンバー プレート認識 (LPR) に対して敵対的攻撃を実行する実現可能性調査を提示します。
さらに、\emph{semi-targeted} シナリオに基づく新しいタイプの敵対的攻撃を提案し、このシナリオが LPR アプリケーションで非常に現実的であることを示します。
私たちの実験結果は、攻撃の成功率が 90% を超える市販のコンピューター デスクトップで実行できるため、攻撃の実現可能性を示しています。

要約(オリジナル)

Recent advances in deep neural networks (DNNs) have significantly enhanced the capabilities of optical character recognition (OCR) technology, enabling its adoption to a wide range of real-world applications. Despite this success, DNN-based OCR is shown to be vulnerable to adversarial attacks, in which the adversary can influence the DNN model’s prediction by carefully manipulating input to the model. Prior work has demonstrated the security impacts of adversarial attacks on various OCR languages. However, to date, no studies have been conducted and evaluated on an OCR system tailored specifically for the Thai language. To bridge this gap, this work presents a feasibility study of performing adversarial attacks on a specific Thai OCR application — Thai License Plate Recognition (LPR). Moreover, we propose a new type of adversarial attack based on the \emph{semi-targeted} scenario and show that this scenario is highly realistic in LPR applications. Our experimental results show the feasibility of our attacks as they can be performed on a commodity computer desktop with over 90% attack success rate.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google