Public Constitutional AI

要約

私たちはますますAI当局の力にさらされるようになっています。
ヘルスケア、教育、法律などの領域に AI による意思決定が避けられなくなるにつれ、私たちは重要な問題に直面する必要があります。AI システムが効果的なガバナンスに必要な正当性をどのように確保できるかということです。
このエッセイでは、AI の正当性を確保するには、一般の人々を AI システムの設計と制約に参加させ、これらのテクノロジーがコミュニティの共有価値観を反映するようにする方法が必要であると主張します。
Anthropic によって提案された憲法 AI は、この目標に向けた一歩を表し、AI の民主的制御のモデルを提供します。
しかし、明示的な原則を AI モデルにハードコーディングするという憲法 AI の取り組みは、透明性と説明責任を強化しますが、個々の AI の決定の不透明性への対処と真の民主的正統性の促進という 2 つの重要な側面において不十分です。
こうした限界を克服するために、本エッセイでは「公共憲法AI」を提案する。
このアプローチは、一般市民を含む多様な関係者が AI 開発の指針となる原則について議論する参加型プロセスを想定しています。
その結果として得られる「AI憲法」は、大衆の著作者の正当性を継承し、AIのガバナンスを民意に基づいて基礎付けることになるだろう。
さらに、このエッセイは、「AI 判例」を開発するための「AI 法廷」を提案し、AI トレーニングにおける憲法原則の運用に関する具体例を提供しています。
憲法原則と判例法のこの進化する組み合わせは、AI ガバナンスを公共の価値観にさらに敏感にすることを目的としています。
AI ガバナンスを熟議型の民主的プロセスに根付かせることで、公共憲法 AI は、自動化された当局に真の民主的正当性を吹き込む道を提供し、公共の利益との整合性を確保しながら、ますます強力になる AI システムによってもたらされる固有の課題に対処します。

要約(オリジナル)

We are increasingly subjected to the power of AI authorities. As AI decisions become inescapable, entering domains such as healthcare, education, and law, we must confront a vital question: how can we ensure AI systems have the legitimacy necessary for effective governance? This essay argues that to secure AI legitimacy, we need methods that engage the public in designing and constraining AI systems, ensuring these technologies reflect the community’s shared values. Constitutional AI, proposed by Anthropic, represents a step towards this goal, offering a model for democratic control of AI. However, while Constitutional AI’s commitment to hardcoding explicit principles into AI models enhances transparency and accountability, it falls short in two crucial aspects: addressing the opacity of individual AI decisions and fostering genuine democratic legitimacy. To overcome these limitations, this essay proposes ‘Public Constitutional AI.’ This approach envisions a participatory process where diverse stakeholders, including ordinary citizens, deliberate on the principles guiding AI development. The resulting ‘AI Constitution’ would carry the legitimacy of popular authorship, grounding AI governance in the public will. Furthermore, the essay proposes ‘AI Courts’ to develop ‘AI case law,’ providing concrete examples for operationalizing constitutional principles in AI training. This evolving combination of constitutional principles and case law aims to make AI governance more responsive to public values. By grounding AI governance in deliberative democratic processes, Public Constitutional AI offers a path to imbue automated authorities with genuine democratic legitimacy, addressing the unique challenges posed by increasingly powerful AI systems while ensuring their alignment with the public interest.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google