The Rise of the AI Co-Pilot: Lessons for Design from Aviation and Beyond

要約

AI の急速な進歩は、ナレッジワークのさまざまな側面に革命をもたらし、その影響を日常生活と専門分野に同様に拡大することが期待されています。
私たちは、AI を単なるツールとしてではなく、人間の指導の下で動作する協調的な副操縦士としてみなすパラダイムを提唱します。
ヒューマン コンピューター インタラクションとヒューマン ファクター エンジニアリングの分野における関連する研究と文献に基づいて、AI インタラクションにおける人間の監視を維持することの重要性を強調します。
航空からの教訓を反映し、人間の警戒心の低下やスキルの低下など、自動化に過度に依存する危険性に対処します。
私たちの論文では、調和的で効果的で力を与える人間と AI の関係を促進することを目的として、AI パートナーシップにおける人間の積極的な関与、制御、スキル向上を強調する設計アプローチを提案しています。
私たちは特に、人間の主体性の優位性を実現し、称賛するために、AI インタラクション機能とソフトウェア アプリケーションを設計する重要な必要性を訴えています。
これには、最終的な制御と責任をパイロットとして人間のユーザーに譲り、AI 副操縦士が明確に定義された補助的な役割を果たす、人間と AI のパートナーシップの設計が必要です。

要約(オリジナル)

The fast pace of advances in AI promises to revolutionize various aspects of knowledge work, extending its influence to daily life and professional fields alike. We advocate for a paradigm where AI is seen as a collaborative co-pilot, working under human guidance rather than as a mere tool. Drawing from relevant research and literature in the disciplines of Human-Computer Interaction and Human Factors Engineering, we highlight the criticality of maintaining human oversight in AI interactions. Reflecting on lessons from aviation, we address the dangers of over-relying on automation, such as diminished human vigilance and skill erosion. Our paper proposes a design approach that emphasizes active human engagement, control, and skill enhancement in the AI partnership, aiming to foster a harmonious, effective, and empowering human-AI relationship. We particularly call out the critical need to design AI interaction capabilities and software applications to enable and celebrate the primacy of human agency. This calls for designs for human-AI partnership that cede ultimate control and responsibility to the human user as pilot, with the AI co-pilot acting in a well-defined supporting role.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google