‘AI enhances our performance, I have no doubt this one will do the same’: The Placebo effect is robust to negative descriptions of AI

要約

AI への期待の高まりにより、プラセボ効果を通じて人間と AI の相互作用におけるパフォーマンスが促進されます。
プラセボ効果をコントロールするために期待を下げることは推奨されますが、過度に否定的な期待はノセボ効果を誘発する可能性があります。
文字識別タスクでは、AI がインターフェイスを適応させることでパフォーマンスが向上または低下することを参加者に伝えましたが、実際には、どのような状況でも AI は存在しませんでした。
ベイジアン分析では、偽AIが存在する場合、参加者は高い期待を持ち、AIの説明に関係なく記述的に優れたパフォーマンスを示したことが示されました。
認知モデリングを使用すると、参加者がより多くの情報を収集していることにこの利点を遡ることができます。
再現研究では、AI の否定的な説明によって期待が変化しないことが検証され、AI によるパフォーマンスの期待には偏りがあり、否定的な口頭での説明に対して頑強であることが示唆されました。
AI のインタラクションと評価に対するユーザーの期待の影響について議論し、人間と AI のインタラクションに対する行動プラセボ マーカーを提供します。

要約(オリジナル)

Heightened AI expectations facilitate performance in human-AI interactions through placebo effects. While lowering expectations to control for placebo effects is advisable, overly negative expectations could induce nocebo effects. In a letter discrimination task, we informed participants that an AI would either increase or decrease their performance by adapting the interface, but in reality, no AI was present in any condition. A Bayesian analysis showed that participants had high expectations and performed descriptively better irrespective of the AI description when a sham-AI was present. Using cognitive modeling, we could trace this advantage back to participants gathering more information. A replication study verified that negative AI descriptions do not alter expectations, suggesting that performance expectations with AI are biased and robust to negative verbal descriptions. We discuss the impact of user expectations on AI interactions and evaluation and provide a behavioral placebo marker for human-AI interaction

arxiv情報

提供元, 利用サービス

arxiv.jp, Google