Subjective Experience in AI Systems: What Do AI Researchers and the Public Believe?

要約

主要なAI会場で発表した582人のAI研究者と、主観的な経験を持つAIシステムの潜在的な開発に関する意見と、そのようなシステムの扱いと統治の方法についての838人の全国代表の米国の参加者を調査しました。
そのようなシステムが特定の日付に存在する可能性を推定するように求められたとき、反応の中央値は2024年までに1％（AI研究者）、2034年までに25％と30％、および2100年ごとに70％と60％でした。
一般のメンバーは、主観的な経験を持つAIシステムが存在しない可能性が高いと考えていました（25％）AI研究者の中央値（10％）。
両方のグループは、AI主観的な経験を評価するために学際的な専門知識の必要性を認識していました。
このようなAIシステムの福祉保護への支援は反対を超えましたが、動物や環境の保護に対する支援よりもはるかに低いままでした。
道徳的およびガバナンスの問題に対する態度は、特にそのようなシステムを作成すべきかどうか、どのような権利または保護を受け取るべきかに関して、両方のグループで分割されました。
しかし、両方のグループの回答者の大多数は、主観的な経験を持つAIシステムからの潜在的なリスクに対する保護は現在AI開発者によって実装されるべきであることに同意しました。
全体として、これらの結果は、AIの研究者と国民の両方が、主観的な経験を持つAIシステムの出現を今世紀の可能性と見なしていることを示唆していますが、タイムラインと適切な対応についてはかなりの不確実性と不一致が残っています。

要約(オリジナル)

We surveyed 582 AI researchers who have published in leading AI venues and 838 nationally representative US participants about their views on the potential development of AI systems with subjective experience and how such systems should be treated and governed. When asked to estimate the chances that such systems will exist on specific dates, the median responses were 1% (AI researchers) and 5% (public) by 2024, 25% and 30% by 2034, and 70% and 60% by 2100, respectively. The median member of the public thought there was a higher chance that AI systems with subjective experience would never exist (25%) than the median AI researcher did (10%). Both groups perceived a need for multidisciplinary expertise to assess AI subjective experience. Although support for welfare protections for such AI systems exceeded opposition, it remained far lower than support for protections for animals or the environment. Attitudes toward moral and governance issues were divided in both groups, especially regarding whether such systems should be created and what rights or protections they should receive. Yet a majority of respondents in both groups agreed that safeguards against the potential risks from AI systems with subjective experience should be implemented by AI developers now, and if created, AI systems with subjective experience should treat others well, behave ethically, and be held accountable. Overall, these results suggest that both AI researchers and the public regard the emergence of AI systems with subjective experience as a possibility this century, though substantial uncertainty and disagreement remain about the timeline and appropriate response.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google