‘I Apologize For Not Understanding Your Policy’: Exploring the Specification and Evaluation of User-Managed Access Control Policies by AI Virtual Assistants

要約

人工知能（AI）ベースの仮想アシスタント（VAS）の急速な進化（VAS）など、Google Gemini、ChatGPT、Microsoft Copilot、Highflyer DeepSeekなど、Google Gemini、ChatGpt、Microsoft Copilot、Highflyer Deepseekは、e.g。
エンドユーザー。
ただし、ユーザーが管理したアクセス制御ポリシー（Uマップ）の適切な仕様と評価、エンドユーザーが発行および管理するためにエンドユーザーが管理および管理するルールは、これらのVAS内の機密データとデバイス機能へのアクセスを管理することです。このようなプロセスは、ユーザーの経験に影響を与えることなくセキュリティの脆弱性とプライバシーリークを防ぐために重要です。
この研究は、現在の公開されているVASが異なるシナリオでUマップを効果的に管理できるかどうかについての最初の探索的調査を提供します。
構造化されたテストに非構造化されたテストを実施することにより、そのようなVASの理解を評価し、さまざまなUマップアプローチにおける理解の欠如を明らかにしました。
私たちの研究は、重要な制限を特定するだけでなく、複雑な承認ルールを管理し、動的な変更に適応するためにVASをさらに改善する方法についての貴重な洞察を提供します。

要約(オリジナル)

The rapid evolution of Artificial Intelligence (AI)-based Virtual Assistants (VAs) e.g., Google Gemini, ChatGPT, Microsoft Copilot, and High-Flyer Deepseek has turned them into convenient interfaces for managing emerging technologies such as Smart Homes, Smart Cars, Electronic Health Records, by means of explicit commands,e.g., prompts, which can be even launched via voice, thus providing a very convenient interface for end-users. However, the proper specification and evaluation of User-Managed Access Control Policies (U-MAPs), the rules issued and managed by end-users to govern access to sensitive data and device functionality – within these VAs presents significant challenges, since such a process is crucial for preventing security vulnerabilities and privacy leaks without impacting user experience. This study provides an initial exploratory investigation on whether current publicly-available VAs can manage U-MAPs effectively across differing scenarios. By conducting unstructured to structured tests, we evaluated the comprehension of such VAs, revealing a lack of understanding in varying U-MAP approaches. Our research not only identifies key limitations, but offers valuable insights into how VAs can be further improved to manage complex authorization rules and adapt to dynamic changes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google