Responsible Development of Offensive AI

要約

AIの進歩に伴い、研究の優先順位を決定するために、より広範なコンセンサスが必要とされている。この試みは、攻撃的AIについて議論し、持続可能な開発目標（SDGs）と解釈可能性の技法を活用した指針を提供する。その目的は、社会的利益とリスクのバランスを考慮した優先順位をより効果的に設定することである。この研究で評価される攻撃型AIの2つの形態は、Capture-The-Flagの課題を解決する脆弱性検出エージェントと、AIを搭載したマルウェアである。

要約(オリジナル)

As AI advances, broader consensus is needed to determine research priorities. This endeavor discusses offensive AI and provides guidance by leveraging Sustainable Development Goals (SDGs) and interpretability techniques. The objective is to more effectively establish priorities that balance societal benefits against risks. The two forms of offensive AI evaluated in this study are vulnerability detection agents, which solve Capture- The-Flag challenges, and AI-powered malware.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL