TinyML Security: Exploring Vulnerabilities in Resource-Constrained Machine Learning Systems

要約

リソースに非常に制約のあるデバイス上で機械学習推論を可能にする Tiny Machine Learning (TinyML) システムは、エッジ コンピューティングを変革していますが、独特のセキュリティ課題に直面しています。
これらのデバイスは、従来のシステムよりも 2 ～ 3 桁小さい RAM および CPU の機能によって制限されているため、従来のソフトウェアおよびハードウェアのセキュリティ ソリューションは非実用的です。
これらのデバイスは物理的にアクセスしやすいため、サイドチャネル攻撃や情報漏洩に対する脆弱性がさらに高まります。
さらに、TinyML モデルは、重み付けによって機密データやクエリ インターフェイスがエンコードされ、悪用される可能性があるため、セキュリティ リスクが生じます。
このペーパーでは、TinyML のセキュリティ脅威に関する初めての徹底的な調査を提供します。
IoT、EdgeML、TinyML を区別するデバイス分類法を提示し、TinyML に固有の脆弱性を強調します。
当社はさまざまな攻撃ベクトルをリスト化し、共通脆弱性スコアリング システムを使用してその脅威レベルを評価し、既存の防御と可能な防御の両方を評価します。
当社の分析により、従来のセキュリティ対策が適切な部分と、TinyML に合わせたソリューションが不可欠な部分が特定されます。
私たちの結果は、堅牢で安全なエッジ コンピューティング アプリケーションを保証するために、TinyML に特化したセキュリティ ソリューションが差し迫った必要性を浮き彫りにしています。
私たちは、研究コミュニティに情報を提供し、この急速に進化する重要な分野を保護するための革新的なアプローチを刺激することを目指しています。

要約(オリジナル)

Tiny Machine Learning (TinyML) systems, which enable machine learning inference on highly resource-constrained devices, are transforming edge computing but encounter unique security challenges. These devices, restricted by RAM and CPU capabilities two to three orders of magnitude smaller than conventional systems, make traditional software and hardware security solutions impractical. The physical accessibility of these devices exacerbates their susceptibility to side-channel attacks and information leakage. Additionally, TinyML models pose security risks, with weights potentially encoding sensitive data and query interfaces that can be exploited. This paper offers the first thorough survey of TinyML security threats. We present a device taxonomy that differentiates between IoT, EdgeML, and TinyML, highlighting vulnerabilities unique to TinyML. We list various attack vectors, assess their threat levels using the Common Vulnerability Scoring System, and evaluate both existing and possible defenses. Our analysis identifies where traditional security measures are adequate and where solutions tailored to TinyML are essential. Our results underscore the pressing need for specialized security solutions in TinyML to ensure robust and secure edge computing applications. We aim to inform the research community and inspire innovative approaches to protecting this rapidly evolving and critical field.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google