FI-CBL: A Probabilistic Method for Concept-Based Learning with Expert Rules

要約

概念ベース学習(CBL)問題を解決する方法を提案した。
この方法の背後にある主なアイデアは、概念の注釈が付けられた各画像をパッチに分割し、オートエンコーダーを使用してパッチをエンベディングに変換し、各クラスターに主に特定の概念を備えたパッチのエンベディングが含まれると想定してエンベディングをクラスター化することです。
新しい画像の概念を見つけるために、この方法では、概念の特定の値を持つ画像からのパッチの割合に基づいて概念の事前確率と事後確率を計算することにより、頻度主義的推論を実装します。
したがって、提案された方法は頻度主義推論 CBL (FI-CBL) と呼ばれます。
FI-CBL を使用すると、エキスパート ルールを論理関数の形式で推論手順に組み込むことができます。
組み込みの背後にある考え方は、ルールを満たすように概念の事前確率と条件付き確率を更新することです。
この方法は、明示的な確率計算シーケンスと明確な周波数解釈を備えているため、透過的です。
数値実験によると、トレーニング データの数が少ない場合、FI-CBL は概念ボトルネック モデルよりも優れたパフォーマンスを示します。
提案されたアルゴリズムのコードは公開されています。

要約(オリジナル)

A method for solving concept-based learning (CBL) problem is proposed. The main idea behind the method is to divide each concept-annotated image into patches, to transform the patches into embeddings by using an autoencoder, and to cluster the embeddings assuming that each cluster will mainly contain embeddings of patches with certain concepts. To find concepts of a new image, the method implements the frequentist inference by computing prior and posterior probabilities of concepts based on rates of patches from images with certain values of the concepts. Therefore, the proposed method is called the Frequentist Inference CBL (FI-CBL). FI-CBL allows us to incorporate the expert rules in the form of logic functions into the inference procedure. An idea behind the incorporation is to update prior and conditional probabilities of concepts to satisfy the rules. The method is transparent because it has an explicit sequence of probabilistic calculations and a clear frequency interpretation. Numerical experiments show that FI-CBL outperforms the concept bottleneck model in cases when the number of training data is small. The code of proposed algorithms is publicly available.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google