Towards Developing Ethical Reasoners: Integrating Probabilistic Reasoning and Decision-Making for Complex AI Systems

要約

計算倫理フレームワークは、複雑で実世界の環境で動作するAIおよび自律システムに不可欠です。
既存のアプローチには、倫理原則を動的であいまいなコンテキストに統合するために必要な適応性が不足していることが多く、多様なシナリオ全体でそれらの有効性を制限します。
これらの課題に対処するために、中間表現、確率的推論、および知識表現を組み合わせた全体的なメタレベルのフレームワークを構築するために必要な要素の概要を説明します。
その仕様は、スケーラビリティを強調し、個々の意思決定レベルの両方とマルチエージェントシステムの集合的ダイナミクス内での倫理的推論をサポートしています。
理論的原則を文脈的要因と統合することにより、構造化されたコンテキスト認識の意思決定を促進し、包括的な倫理基準との整合を確保します。
さらに、倫理的な推論がどのように動作するかを概説する提案された定理を探り、実用的な実装の基盤を提供します。
これらの構成要素は、現実世界の道徳的意思決定シナリオの複雑さをナビゲートできる堅牢で倫理的に信頼できるAIシステムの開発をサポートすることを目的としています。

要約(オリジナル)

A computational ethics framework is essential for AI and autonomous systems operating in complex, real-world environments. Existing approaches often lack the adaptability needed to integrate ethical principles into dynamic and ambiguous contexts, limiting their effectiveness across diverse scenarios. To address these challenges, we outline the necessary ingredients for building a holistic, meta-level framework that combines intermediate representations, probabilistic reasoning, and knowledge representation. The specifications therein emphasize scalability, supporting ethical reasoning at both individual decision-making levels and within the collective dynamics of multi-agent systems. By integrating theoretical principles with contextual factors, it facilitates structured and context-aware decision-making, ensuring alignment with overarching ethical standards. We further explore proposed theorems outlining how ethical reasoners should operate, offering a foundation for practical implementation. These constructs aim to support the development of robust and ethically reliable AI systems capable of navigating the complexities of real-world moral decision-making scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google