Calibrated Interpretation: Confidence Estimation in Semantic Parsing

要約

シーケンス生成モデルは、自然言語をプログラムに変換するため、つまり実行可能な意味解析を実行するために使用されることが増えています。
セマンティック解析の目的が、現実世界で実行されるアクションにつながる可能性のあるプログラムを予測することであるという事実が、安全なシステムの開発の動機となります。
このため、安全性の中心となる要素である測定校正が特に重要になります。
私たちは、4 つの一般的なセマンティック解析データセットにわたる一般的な世代モデルの調整を調査し、モデルやデータセットによって異なることがわかりました。
次に、キャリブレーション誤差に関連する要因を分析し、2 つの解析データセットの信頼度に基づく新しいチャレンジ分割をリリースします。
セマンティック解析評価にキャリブレーションを組み込みやすくするために、キャリブレーション メトリックを計算するためのライブラリをリリースしました。

要約(オリジナル)

Sequence generation models are increasingly being used to translate natural language into programs, i.e. to perform executable semantic parsing. The fact that semantic parsing aims to predict programs that can lead to executed actions in the real world motivates developing safe systems. This in turn makes measuring calibration — a central component to safety — particularly important. We investigate the calibration of popular generation models across four popular semantic parsing datasets, finding that it varies across models and datasets. We then analyze factors associated with calibration error and release new confidence-based challenge splits of two parsing datasets. To facilitate the inclusion of calibration in semantic parsing evaluations, we release a library for computing calibration metrics.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google