Positive AI: Key Challenges for Designing Wellbeing-aligned Artificial Intelligence

要約

人工知能 (AI) は急速に社会を変革しており、そのプラスの影響を確実にすることが緊急の必要性を生み出しています。
この記事では、この問題に対して積極的な設計アプローチを採用し、人間の幸福を積極的にサポートする AI システムの設計の問題として捉えます。
ただし、幸福を考慮した AI システムを設計するのは困難です。
この記事では、サイバネティックスの観点を採用して、知識の欠如とモチベーションの欠如という 2 つのカテゴリーにわたる 12 の主要な課題を特定します。
知識の壁には、健康のための概念化、測定、最適化、そして適切な AI アクションの設計における課題が含まれます。
モチベーションの障壁としては、不均衡なインセンティブ、財政的および宣伝上のリスク、幸福に関する（第三者による）研究を妨げるデータアクセスの欠如などが挙げられます。
これらの課題に対処するために、私たちは、1) AI システムが幸福に及ぼす影響の科学的理解を進めること、2) AI システムが幸福を促進し維持するためにどのように意図的に設計されるかについての設計アクションの指針に関連する研究課題の中で重要なポイントを捉えました。
。

要約(オリジナル)

Artificial Intelligence (AI) is rapidly transforming society, creating an urgent need to ensure its positive impact. In this article, we take a positive design approach towards this issue, viewing it as a matter of designing AI systems that actively support human wellbeing. However, designing wellbeing-aligned AI systems is difficult. This article adopts a cybernetic perspective to identify twelve key challenges across two categories: lack of knowledge and lack of motivation. Knowledge barriers include challenges in conceptualizing, measuring, and optimizing for wellbeing, then designing appropriate AI actions. Motivation barriers include misaligned incentives, financial and publicity risks, and a lack of data access preventing (third-party) research on wellbeing. To address these challenges we have captured our key takeaways in a research agenda related to 1) advancing the scientific understanding of the impact of AI systems on wellbeing, and 2) guiding design actions on how AI systems might be intentionally designed to promote and sustain wellbeing.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google