Exposing the Impact of GenAI for Cybercrime: An Investigation into the Dark Side

要約

近年、生成的AIモデルの急速な進歩と民主化は、特にサイバーセキュリティの文脈において、安全性、倫理的リスク、および二重使用の懸念に関する重要な議論を引き起こしました。
逸話的に知られていますが、この論文は、技術の増幅とアフォーダンス理論の心理的枠組みを通じて現象を調べることにより、悪意のあるインターネット関連の活動とサイバー犯罪との生成的AIとサイバー犯罪に関する経験的証拠を提供します。
中断された時系列分析を備えた準実験設計を使用して、1つの一般的なデータセットと1つの暗号通貨に焦点を当てた2つのデータセットを分析して、サイバー犯罪における生成的AIの役割を経験的に評価します。
調査結果は、コントロールのバランスを取り、イノベーションの促進、政策立案者の導き、AI開発者とサイバーセキュリティの専門家に通知する戦略の必要性を強調し、リスクを軽減しながらAIの利益を最大化するために一般の人々に教育することにより、AIガバナンスに関する継続的な議論に貢献します。

要約(オリジナル)

In recent years, the rapid advancement and democratization of generative AI models have sparked significant debate over safety, ethical risks, and dual-use concerns, particularly in the context of cybersecurity. While anecdotally known, this paper provides empirical evidence regarding generative AI’s association with malicious internet-related activities and cybercrime by examining the phenomenon through psychological frameworks of technological amplification and affordance theory. Using a quasi-experimental design with interrupted time series analysis, we analyze two datasets, one general and one cryptocurrency-focused, to empirically assess generative AI’s role in cybercrime. The findings contribute to ongoing discussions about AI governance by balancing control and fostering innovation, underscoring the need for strategies to guide policymakers, inform AI developers and cybersecurity professionals, and educate the public to maximize AI’s benefits while mitigating its risks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google