Thorny Roses: Investigating the Dual Use Dilemma in Natural Language Processing

要約

タイトル：自然言語処理におけるデュアルユースジレンマを調査する

要約：
– デュアルユースとは、技術や科学的なアーティファクトを意図的に悪用することであり、自然言語処理（NLP）の文脈ではまだ良く定義されていない。
– しかし、NLP技術が進歩し、社会でますます広く使用されるようになるにつれて、その内部動作はますます不透明になっている。
– そのため、デュアルユースの懸念とそれらを制限するための潜在的な方法を理解することは、研究開発の潜在的な損害を最小限に抑えるために重要である。
– この論文では、NLP研究者と実践者の調査を実施して、問題の深度とその視点を理解するとともに、既存の利用可能なサポートを評価する。
– 調査結果に基づいて、NLPコミュニティのニーズに合わせたデュアルユースの定義を提供する。
– 調査により、研究者の大多数が研究の潜在的なデュアルユースに懸念を抱いているが、それに対して限定的な行動しか取っていないことが明らかになった。
– 調査結果を考慮して、NLPにおけるデュアルユースの現状と緩和の方法、例えばACL倫理チェックリストへの統合可能なチェックリストを提案する。

要約(オリジナル)

Dual use, the intentional, harmful reuse of technology and scientific artefacts, is a problem yet to be well-defined within the context of Natural Language Processing (NLP). However, as NLP technologies continue to advance and become increasingly widespread in society, their inner workings have become increasingly opaque. Therefore, understanding dual use concerns and potential ways of limiting them is critical to minimising the potential harms of research and development. In this paper, we conduct a survey of NLP researchers and practitioners to understand the depth and their perspective of the problem as well as to assess existing available support. Based on the results of our survey, we offer a definition of dual use that is tailored to the needs of the NLP community. The survey revealed that a majority of researchers are concerned about the potential dual use of their research but only take limited action toward it. In light of the survey results, we discuss the current state and potential means for mitigating dual use in NLP and propose a checklist that can be integrated into existing conference ethics-frameworks, e.g., the ACL ethics checklist.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI