Public Constitutional AI

要約

私たちはますますAI当局の力にさらされています。
AIの決定が避けられないようになり、ヘルスケア、教育、法律などのドメインを入力すると、重要な質問に直面しなければなりません。
このエッセイは、AIの正当性を確保するために、AIシステムの設計と制約に一般の人々を引き付ける方法が必要であり、これらのテクノロジーがコミュニティの共有値を反映するようにする方法が必要であると主張しています。
人類によって提案された憲法AIは、この目標への一歩を表しており、AIの民主的支配のためのモデルを提供します。
ただし、AIモデルへの明示的な原則を強調することに対する憲法上のAIのコミットメントは、透明性と説明責任を向上させますが、2つの重要な側面には不足しています。個々のAIの決定の不透明度に対処し、真の民主的な正当性を促進します。
これらの制限を克服するために、このエッセイは「公共憲法AI」を提案しています。
このアプローチは、一般市民を含む多様な利害関係者が、AIの開発を導く原則について審議する参加型プロセスを想定しています。
結果として生じる「AI憲法」は、一般の人々にAIガバナンスを根付かせて、一般的な著者の正当性を運びます。
さらに、エッセイは「AI裁判所」を「AIの判例法」を開発することを提案し、AIトレーニングにおける憲法原則を運用するための具体的な例を提供します。
この進化する憲法原則と判例法の組み合わせは、AIガバナンスを公共の価値によりより敏感にすることを目的としています。
審議的な民主的プロセスにおいてAIガバナンスを根付かせることにより、公共憲法AIは、公共の利益との整合を確保しながら、ますます強力なAIシステムによってもたらされる独自の課題に対処するために、自動化された当局を真の民主的な正当性に吹き込む道を提供します。

要約(オリジナル)

We are increasingly subjected to the power of AI authorities. As AI decisions become inescapable, entering domains such as healthcare, education, and law, we must confront a vital question: how can we ensure AI systems have the legitimacy necessary for effective governance? This essay argues that to secure AI legitimacy, we need methods that engage the public in designing and constraining AI systems, ensuring these technologies reflect the community’s shared values. Constitutional AI, proposed by Anthropic, represents a step towards this goal, offering a model for democratic control of AI. However, while Constitutional AI’s commitment to hardcoding explicit principles into AI models enhances transparency and accountability, it falls short in two crucial aspects: addressing the opacity of individual AI decisions and fostering genuine democratic legitimacy. To overcome these limitations, this essay proposes ‘Public Constitutional AI.’ This approach envisions a participatory process where diverse stakeholders, including ordinary citizens, deliberate on the principles guiding AI development. The resulting ‘AI Constitution’ would carry the legitimacy of popular authorship, grounding AI governance in the public will. Furthermore, the essay proposes ‘AI Courts’ to develop ‘AI case law,’ providing concrete examples for operationalizing constitutional principles in AI training. This evolving combination of constitutional principles and case law aims to make AI governance more responsive to public values. By grounding AI governance in deliberative democratic processes, Public Constitutional AI offers a path to imbue automated authorities with genuine democratic legitimacy, addressing the unique challenges posed by increasingly powerful AI systems while ensuring their alignment with the public interest.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google