Meaningful human command: Advance control directives as a method to enable moral and legal responsibility for autonomous weapons systems

要約

21世紀の戦争は、通常戦力と自律システムの大量使用や人間と機械の統合が組み合わされ、そのスピードが増している。しかし、重要な課題は、通常の時間的パラメーターの外で動作するシステムに対して、人間がどのように道徳的・法的責任を確保できるかということである。本章では、特に人間の意識と集中力が十分に保てないような、リアルタイムよりも速い時間や非常に遅い時間での作戦において、人間がリアルタイムの外に立ち、事前に契約を成立させることで自律システムの行動を許可することができるかどうかを考察する。事前ケア指示書」に見られる医学的な法的前提は、兵器システムの説明責任と責任に必要な時間のかかる熟慮プロセスが、「事前制御指示書」（ACD）に捕らえられたリアルタイム以外でも達成可能であるかもしれないことを示唆している。本章では、自律システムの配備に先立ち、ACDの構築を通じて足場となり正当化される「自律指揮」を提案する。

要約(オリジナル)

21st Century war is increasing in speed, with conventional forces combined with massed use of autonomous systems and human-machine integration. However, a significant challenge is how humans can ensure moral and legal responsibility for systems operating outside of normal temporal parameters. This chapter considers whether humans can stand outside of real time and authorise actions for autonomous systems by the prior establishment of a contract, for actions to occur in a future context particularly in faster than real time or in very slow operations where human consciousness and concentration could not remain well informed. The medical legal precdent found in ‘advance care directives’ suggests how the time-consuming, deliberative process required for accountability and responsibility of weapons systems may be achievable outside real time captured in an ‘advance control driective’ (ACD). The chapter proposes ‘autonomy command’ scaffolded and legitimised through the construction of ACD ahead of the deployment of autonomous systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL