要約
人工知能 (AI) に関連する害に対して、より強固なガバナンスを求める熱烈な要求により、規制学者が規制に対する管理ベースのアプローチと呼ぶものが世界中で採用されるようになりました。
米国と欧州における最近の取り組みや、国際標準化機構による主要な自主規制基準の採用には、中核となる管理ベースのパラダイムが共通しています。
これらの管理ベースの取り組みは、AI ツールのトレーニングと開発方法に対する人間の監視を強化することを目的としています。
したがって、この管理ベースの規制パラダイムの新たな時代に適合するには、人間による指導によるトレーニング技術の改良と体系化が必要となります。
人間主導のトレーニングを真剣に受け止めれば、AI に対する技術的および倫理的プレッシャーの一部を軽減し、人間の直観によって AI のパフォーマンスを向上させるだけでなく、公平性と効果的な説明可能性のニーズにうまく対応できるようになります。
この論文では、AI を管理する新たな管理ベースの規制枠組みと、トレーニング中の人間による監視の必要性との関係について説明します。
私たちは、人間によるガイド付きトレーニングに関連するいくつかの技術的コンポーネントを幅広く取り上げ、規制当局が最も懸念していると思われる AI の危険なユースケースでは、データのみのトレーニングよりも人間によるガイドによるトレーニングに頼るべきであると主張します。
私たちは、法学者とコンピューター科学者の間で、アプリケーションとリスクが広大で異質で動的であるテクノロジーの領域をどのように管理するかについての議論を促進したいと考えています。
要約(オリジナル)
Fervent calls for more robust governance of the harms associated with artificial intelligence (AI) are leading to the adoption around the world of what regulatory scholars have called a management-based approach to regulation. Recent initiatives in the United States and Europe, as well as the adoption of major self-regulatory standards by the International Organization for Standardization, share in common a core management-based paradigm. These management-based initiatives seek to motivate an increase in human oversight of how AI tools are trained and developed. Refinements and systematization of human-guided training techniques will thus be needed to fit within this emerging era of management-based regulatory paradigm. If taken seriously, human-guided training can alleviate some of the technical and ethical pressures on AI, boosting AI performance with human intuition as well as better addressing the needs for fairness and effective explainability. In this paper, we discuss the connection between the emerging management-based regulatory frameworks governing AI and the need for human oversight during training. We broadly cover some of the technical components involved in human-guided training and then argue that the kinds of high-stakes use cases for AI that appear of most concern to regulators should lean more on human-guided training than on data-only training. We hope to foster a discussion between legal scholars and computer scientists involving how to govern a domain of technology that is vast, heterogenous, and dynamic in its applications and risks.
arxiv情報
著者 | Cary Coglianese,Colton R. Crum |
発行日 | 2024-02-13 13:48:54+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google