Interactive Concept Bottleneck Models

要約

タイトル：インタラクティブ・コンセプト・ボトルネック・モデル

要約：
– コンセプト・ボトルネック・モデル(CBM)は、最初に予測タスクに関連する解釈可能なコンセプトのラベルを予測し、次にコンセプトの予測結果に基づいて最終ラベルを予測する解釈可能なニューラルネットワークです。
– CBMをインタラクティブな予測設定に拡張しました。モデルは人間の協働者からいくつかのコンセプトのラベルを問い合わせることができます。
– 予測時、概念予測の不確実性と予測結果に対するコンセプトの影響を組み合わせた単純なポリシーを開発し、最終的な予測を最大限に改善できるようにコンセプトのラベルをリクエストします。
– 既存の静的アプローチやアクティブなフィーチャー取得手法を上回り、コンペティティブなベースラインで、Caltech-UCSD Birds、CheXpert、OAIのデータセットで5つの相互作用だけで5-10%の精度の向上を実現できることを示しました。

要約(オリジナル)

Concept bottleneck models (CBMs) are interpretable neural networks that first predict labels for human-interpretable concepts relevant to the prediction task, and then predict the final label based on the concept label predictions. We extend CBMs to interactive prediction settings where the model can query a human collaborator for the label to some concepts. We develop an interaction policy that, at prediction time, chooses which concepts to request a label for so as to maximally improve the final prediction. We demonstrate that a simple policy combining concept prediction uncertainty and influence of the concept on the final prediction achieves strong performance and outperforms static approaches as well as active feature acquisition methods proposed in the literature. We show that the interactive CBM can achieve accuracy gains of 5-10% with only 5 interactions over competitive baselines on the Caltech-UCSD Birds, CheXpert and OAI datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI