Governing dual-use technologies: Case studies of international security agreements and lessons for AI governance

要約

国際的な AI ガバナンス協定と機関は、高度な AI による世界的なセキュリティ リスクを軽減する上で重要な役割を果たす可能性があります。
このような協定や制度の設計を参考にするために、私たちは歴史的および現代の国際安全保障協定のケーススタディを実施しました。
私たちは特に軍民両用技術に関する取り決めに焦点を当て、核セキュリティ、化学兵器、バイオセキュリティ、輸出規制に関する協定を調査しました。
各協定について、(a) 目的、(b) 中核的権限、(c) ガバナンス構造、および (d) 不遵守の事例という 4 つの主要領域を調査しました。
これらのケーススタディから、私たちは国際的な AI 協定とガバナンス機関の設計のための教訓を抽出しました。
私たちは、堅牢な検証方法、国家間の力の均衡を図る戦略、急速な技術変化に適応するメカニズム、透明性と安全性の間のトレードオフを管理するアプローチ、参加のインセンティブ、効果的な執行メカニズムの重要性について議論します。

要約(オリジナル)

International AI governance agreements and institutions may play an important role in reducing global security risks from advanced AI. To inform the design of such agreements and institutions, we conducted case studies of historical and contemporary international security agreements. We focused specifically on those arrangements around dual-use technologies, examining agreements in nuclear security, chemical weapons, biosecurity, and export controls. For each agreement, we examined four key areas: (a) purpose, (b) core powers, (c) governance structure, and (d) instances of non-compliance. From these case studies, we extracted lessons for the design of international AI agreements and governance institutions. We discuss the importance of robust verification methods, strategies for balancing power between nations, mechanisms for adapting to rapid technological change, approaches to managing trade-offs between transparency and security, incentives for participation, and effective enforcement mechanisms.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google