All AI Models are Wrong, but Some are Optimal

要約

システムの将来の動作を予測する AI モデル (別名、予測 AI モデル) は、インテリジェントな意思決定の中心となります。
ただし、予測 AI モデルを使用した意思決定では、最適なパフォーマンスが得られないことがよくあります。
これは主に、AI モデルが通常、データに最適に適合するように構築され、高パフォーマンスの意思決定を可能にするというよりは、最も可能性の高い未来を予測するために構築されるためです。
このような予測によって高パフォーマンスの意思決定が可能になるという期待は、理論的には保証されておらず、実際にも確立されていません。
実際、パフォーマンスを向上させるためには、予測モデルを意思決定の目的に合わせて調整する必要があるという経験的証拠が増えています。
この論文では、予測モデル (AI ベースかどうか) を使用して確立された意思決定ポリシーが最適であるために、その予測モデルが満たさなければならない形式的な (必要かつ十分な) 条件を確立します。
次に、逐次的な意思決定のための予測 AI モデルの構築に対するそれらの影響について説明します。

要約(オリジナル)

AI models that predict the future behavior of a system (a.k.a. predictive AI models) are central to intelligent decision-making. However, decision-making using predictive AI models often results in suboptimal performance. This is primarily because AI models are typically constructed to best fit the data, and hence to predict the most likely future rather than to enable high-performance decision-making. The hope that such prediction enables high-performance decisions is neither guaranteed in theory nor established in practice. In fact, there is increasing empirical evidence that predictive models must be tailored to decision-making objectives for performance. In this paper, we establish formal (necessary and sufficient) conditions that a predictive model (AI-based or not) must satisfy for a decision-making policy established using that model to be optimal. We then discuss their implications for building predictive AI models for sequential decision-making.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google