Secret-Keeping in Question Answering

要約

既存の質問応答研究は、システムが答えられる場合は常に答えを提供するという文脈で、答えられない質問に焦点を当てていますが、システムが質問に答えるべきでない場合はどうでしょうか。
これは、機密ユーザーまたは機密情報を保護するためのいずれかです。
多くのモデルは、敵対的なユーザーによる尋問の下で機密情報を公開します。
私たちは、質問応答システムに特定の事実を秘密にしておくことができるかどうかを判断しようとしています.
概念実証アーキテクチャを設計および実装し、評価を通じて、システム パラノイア (偽陽性) や情報漏えい (偽陰性) を減らし、作業の実装を
情報集約の存在下での秘密保持に関するより複雑な問題。

要約(オリジナル)

Existing question-answering research focuses on unanswerable questions in the context of always providing an answer when a system can\dots but what about cases where a system {\bf should not} answer a question. This can either be to protect sensitive users or sensitive information. Many models expose sensitive information under interrogation by an adversarial user. We seek to determine if it is possible to teach a question-answering system to keep a specific fact secret. We design and implement a proof-of-concept architecture and through our evaluation determine that while possible, there are numerous directions for future research to reduce system paranoia (false positives), information leakage (false negatives) and extend the implementation of the work to more complex problems with preserving secrecy in the presence of information aggregation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google