War Elephants: Rethinking Combat AI and Human Oversight

要約

この論文では、AI の普及が戦闘の性質に及ぼしている変化について考察します。
私たちは、AI による専門家の代替を超えて、人間と機械の補完的な能力を融合するアプローチに目を向けています。
過去と現代の例を使用して、人間の「AI オペレーター」と AI/ML の「プロキシ オペレーター」を組み合わせたチームによって自律型兵器システムがどのように効果的に管理できるかを示します。
補完の原則に基づくアプローチにより、致命的な自律システムを管理するための柔軟かつ動的なアプローチを提供します。
最後に、戦場内での行動パターンを監視して致死的な自律システムのパフォーマンスを評価する AI オペレーターによって戦場 AI が操作される、マシンスピード戦闘の統合ビジョンを達成するための道筋を提示します。
このアプローチにより、より倫理的で、機械の速度で動作し、純粋に自律的な AI システムがサポートできるよりも広範囲の動的な戦場の状況に対応できる戦闘システムの開発が可能になります。

要約(オリジナル)

This paper explores the changes that pervasive AI is having on the nature of combat. We look beyond the substitution of AI for experts to an approach where complementary human and machine abilities are blended. Using historical and modern examples, we show how autonomous weapons systems can be effectively managed by teams of human ‘AI Operators’ combined with AI/ML ‘Proxy Operators.’ By basing our approach on the principles of complementation, we provide for a flexible and dynamic approach to managing lethal autonomous systems. We conclude by presenting a path to achieving an integrated vision of machine-speed combat where the battlefield AI is operated by AI Operators that watch for patterns of behavior within battlefield to assess the performance of lethal autonomous systems. This approach enables the development of combat systems that are likely to be more ethical, operate at machine speed, and are capable of responding to a broader range of dynamic battlefield conditions than any purely autonomous AI system could support.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google