Designs for Enabling Collaboration in Human-Machine Teaming via Interactive and Explainable Systems

要約

生産性の向上と安全性の向上を目的として、協調ロボットや機械学習ベースの仮想エージェントが人間の作業空間にますます参入しつつあります。
それにもかかわらず、私たちは、遍在する実験領域である Overcooked-AI で、模倣学習または強化学習に依存するヒューマン マシン チーミング (HMT) の最先端技術が脆弱であり、結果としてマシン エージェントが生成されることを示しました。
機械と人間の行動を切り離して、相乗的な形ではなく独立して動作することを目的としています。
この欠点を解決するために、私たちは、エンドユーザーが解釈可能な AI チームメイトを対話的に再プログラムできるようにする、反復的な混合イニシアチブのチーム開発を可能にする HMT アプローチを開発します。
私たちの 50 人の被験者を対象とした研究では、ガイドラインにまとめたいくつかの結果が得られました。
すべてのアプローチは、単純な協調ヒューリスティックのパフォーマンスを下回っていますが（学習ベースの手法にとって重大でマイナスの結果です）、対話型の変更によってサポートされるホワイトボックス アプローチは、ホワイトボックス アプローチだけでのパフォーマンスやブラックボックス アプローチよりも優れたチーム開発につながる可能性があることがわかりました。
このアプローチはトレーニングが容易であり、その結果、HMT のパフォーマンスが向上します。これは、説明可能性と対話性とトレーニングの容易さの間のトレードオフを強調しています。
まとめると、これらの発見は 3 つの重要な方向性を示しています。1) ホワイトボックス モデルを使用して協調エージェントを生成する能力の向上、2) 個別の調整ではなくコラボレーションを促進するためのより良い学習方法、3) ユーザーが可能にする混合イニシアチブ インターフェイス
能力にばらつきがあるため、コラボレーションが向上します。

要約(オリジナル)

Collaborative robots and machine learning-based virtual agents are increasingly entering the human workspace with the aim of increasing productivity and enhancing safety. Despite this, we show in a ubiquitous experimental domain, Overcooked-AI, that state-of-the-art techniques for human-machine teaming (HMT), which rely on imitation or reinforcement learning, are brittle and result in a machine agent that aims to decouple the machine and human’s actions to act independently rather than in a synergistic fashion. To remedy this deficiency, we develop HMT approaches that enable iterative, mixed-initiative team development allowing end-users to interactively reprogram interpretable AI teammates. Our 50-subject study provides several findings that we summarize into guidelines. While all approaches underperform a simple collaborative heuristic (a critical, negative result for learning-based methods), we find that white-box approaches supported by interactive modification can lead to significant team development, outperforming white-box approaches alone, and black-box approaches are easier to train and result in better HMT performance highlighting a tradeoff between explainability and interactivity versus ease-of-training. Together, these findings present three important directions: 1) Improving the ability to generate collaborative agents with white-box models, 2) Better learning methods to facilitate collaboration rather than individualized coordination, and 3) Mixed-initiative interfaces that enable users, who may vary in ability, to improve collaboration.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google