When Should Algorithms Resign?

要約

このペーパーでは、組織内での AI システムの使用を管理するための戦略的アプローチである、アルゴリズムによる辞任について説明します。
アルゴリズムによる辞任には、ガバナンス メカニズムを AI システムに直接組み込むことにより、特定のシナリオで AI 支援から意図的かつ十分な情報に基づいて離脱することが含まれます。
私たちの提案は、単に AI を使用しないことに関するものではなく、これらのシステムをいつどのように使用または回避すべきかについてのガイドも含まれています。
経済効率、評判の向上、法令順守に及ぶ、アルゴリズムによる辞任の多面的なメリットについて説明します。
さらに、ポジティブおよびネガティブなナッジ、利害関係者のインセンティブの調整、AI の関与レベルの慎重な検討など、さまざまな方法による辞任の運用化について概説します。
AI 出力へのアクセスを選択的に禁止したり、システム パフォーマンスに関する明示的な免責条項を提供したりするなどの手法を使用することで、アルゴリズムによる辞任は AI に関連するリスクを軽減するだけでなく、その利点を活用して、AI システムの責任ある効果的な使用を保証します。

要約(オリジナル)

This paper discusses algorithmic resignation, a strategic approach for managing the use of AI systems within organizations. Algorithmic resignation involves the deliberate and informed disengagement from AI assistance in certain scenarios, by embedding governance mechanisms directly into AI systems. Our proposal is not merely about disuse of AI but includes guiding when and how these systems should be used or avoided. We discuss the multifaceted benefits of algorithmic resignation, spanning economic efficiency, reputational gains, and legal compliance. Further, we outline the operationalization of resignation through various methods such as positive and negative nudges, stakeholder incentive alignment, and careful consideration of the level of AI engagement. Using techniques like barring access to AI outputs selectively or providing explicit disclaimers on system performance, algorithmic resignation not only mitigates risks associated with AI but also leverages its benefits, ensuring the responsible and effective use of AI systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google