BadSAM: Exploring Security Vulnerabilities of SAM via Backdoor Attacks

要約

タイトル：「バックドア攻撃によるSAMのセキュリティ脆弱性の探索、BadSAM」

要約：
・画像セグメンテーション基礎モデルであるSegment Anything Model（SAM）が、多種多様な下流タスクに対して高い性能を発揮するため、注目を集めている。
・しかし、SAMは難しい下流タスクに直面した場合には常に満足のいく性能を発揮できないことが判明しており、下流ユーザーはこれらの下流タスクに適応できるカスタマイズされたSAMモデルの要望がある。
・この論文では、画像セグメンテーション基礎モデルに対する最初のバックドア攻撃であるBadSAMを提案する。
・CAMOデータセット上の予備実験は、BadSAMの効果を示している。

要約(オリジナル)

Recently, the Segment Anything Model (SAM) has gained significant attention as an image segmentation foundation model due to its strong performance on various downstream tasks. However, it has been found that SAM does not always perform satisfactorily when faced with challenging downstream tasks. This has led downstream users to demand a customized SAM model that can be adapted to these downstream tasks. In this paper, we present BadSAM, the first backdoor attack on the image segmentation foundation model. Our preliminary experiments on the CAMO dataset demonstrate the effectiveness of BadSAM.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI