Technology as uncharted territory: Contextual integrity and the notion of AI as new ethical ground

要約

最近の研究では、AI がアプリケーションの具体的な社会的文脈から切り離された方法でどのように開発および展開できるかを示しています。
AI アプリケーションのコンテキストから抽象化することで、実践者は、自身を支配する明確な規範構造からも解放されます。
ヘレン・ニッセンバウムの文脈上の完全性の枠組みに基づいて、文脈上の規範を無視することが、しばしば決定的な倫理的影響を及ぼして文脈の完全性をどのように脅かす可能性があるかを説明します。
私は、責任ある倫理的な AI を推進する取り組みが、知らず知らずのうちにこの確立された文脈上の規範の無視に寄与し、一見正当化される可能性があると主張します。
新興テクノロジーを未知の道徳的領域として理解するというテクノロジー倫理の根深い底流を反映して、AI 倫理への特定のアプローチは、倫理的審議、規範設定、美徳育成のための斬新で明確な領域としての AI の概念を促進する可能性があります。
しかし、新たな倫理基盤としての AI の物語は、具体的な社会的文脈の中で成功し、責任ある実践を促進するために徐々に培われてきた、すでに確立された規範や美徳に取り組む実践者、政策立案者、倫理学者を犠牲にする可能性があります。
これに応えて、私は、AI 倫理における道徳の保存よりも道徳の革新という狭い優先順位が現在設定されていることに疑問を抱いています。
私は、新たな基盤モデルにも関与し、確立された社会的文脈およびそれぞれの規範的構造内での責任ある考慮された AI の統合を優先する、AI の倫理に対する適度に保守的なアプローチを提唱します。

要約(オリジナル)

Recent research illustrates how AI can be developed and deployed in a manner detached from the concrete social context of application. By abstracting from the contexts of AI application, practitioners also disengage from the distinct normative structures that govern them. Building upon Helen Nissenbaum’s framework of contextual integrity, I illustrate how disregard for contextual norms can threaten the integrity of a context with often decisive ethical implications. I argue that efforts to promote responsible and ethical AI can inadvertently contribute to and seemingly legitimize this disregard for established contextual norms. Echoing a persistent undercurrent in technology ethics of understanding emerging technologies as uncharted moral territory, certain approaches to AI ethics can promote a notion of AI as a novel and distinct realm for ethical deliberation, norm setting, and virtue cultivation. This narrative of AI as new ethical ground, however, can come at the expense of practitioners, policymakers and ethicists engaging with already established norms and virtues that were gradually cultivated to promote successful and responsible practice within concrete social contexts. In response, I question the current narrow prioritization in AI ethics of moral innovation over moral preservation. Engaging also with emerging foundation models, I advocate for a moderately conservative approach to the ethics of AI that prioritizes the responsible and considered integration of AI within established social contexts and their respective normative structures.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google