Positive AI: Key Challenges in Designing Artificial Intelligence for Wellbeing

要約

人工知能（AI）は諸刃の剣である。一方では、AIは人類に恩恵をもたらす大きな進歩をもたらすと約束されているが、他方では、AIは実質的な（実存的ですらある）リスクをもたらす。日々進歩が起こる中、多くの人々がAIが自分たちの生活に与える影響を心配するようになっている。AIが有益に進歩することを確実にするために、AIを統治する重要な目的として「ウェルビーイング」を提唱する研究者もいる。本稿では、ウェルビーイングのためのAIを設計する際の主要な課題を取り上げる。これらの課題は、コンテクストにおけるウェルビーイングのモデル化、コンテクストにおけるウェルビーイングの評価、ウェルビーイングを改善するための介入策の設計、ウェルビーイングとAIの整合性の長期的な維持といった問題に分類される。これらの課題を特定することで、AIの開発が人間のウェルビーイングに沿ったものであることを保証するための取り組みが可能になる。

要約(オリジナル)

Artificial Intelligence (AI) is a double-edged sword: on one hand, AI promises to provide great advances that could benefit humanity, but on the other hand, AI poses substantial (even existential) risks. With advancements happening daily, many people are increasingly worried about AI’s impact on their lives. To ensure AI progresses beneficially, some researchers have proposed ‘wellbeing’ as a key objective to govern AI. This article addresses key challenges in designing AI for wellbeing. We group these challenges into issues of modeling wellbeing in context, assessing wellbeing in context, designing interventions to improve wellbeing, and maintaining AI alignment with wellbeing over time. The identification of these challenges provides a scope for efforts to help ensure that AI developments are aligned with human wellbeing.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL