Fix-Con: Automatic Fault Localization and Repair of Deep Learning Model Conversions

要約

フレームワーク間でディープラーニングモデルを変換することは、デバイス間のモデルの互換性を最大化し、あるディープラーニングフレームワークでのみ提供される最適化機能を活用するための一般的なステップである。しかし、この変換プロセスにはバグが潜んでいる可能性があり、変換されたモデルは展開不可能になるか、問題が発生し、予測の正しさが著しく低下します。 我々は、ディープラーニングフレームワーク間のモデル変換時に、不具合の特定と修復を自動化するアプローチ、Fix-Conを提案する。Fix-Conは、変換中にモデル入力、パラメータ、ハイパーパラメータ、モデルグラフに導入された障害を検出し、修正することができる。 Fix-Conは、提起された変換問題の調査から採掘されたフォールトタイプのセットを使用して、変換後のターゲットモデルにおける潜在的な変換フォールトを特定し、ターゲットモデルのパラメータをソースモデルのパラメータに置き換えるなど、適切に修復する。これは、ソースモデルと変換されたターゲットモデルとの間の出力ラベルの差異があるデータセット内のすべての画像に対して、すべての差異が解決されるまで繰り返し実行される。我々は、4つの異なるディープラーニングフレームワークで変換された、広く使用されている3つの画像認識モデルのモデル変換バグを修正するFix-Conの有効性を評価した。全体として、Fix-Conは15件の誤った変換ケースのうち14件の性能を完全に修復するか、大幅に向上させることができた。

要約(オリジナル)

Converting deep learning models between frameworks is a common step to maximize model compatibility across devices and leverage optimization features that may be exclusively provided in one deep learning framework. However, this conversion process may be riddled with bugs, making the converted models either undeployable or problematic, considerably degrading their prediction correctness. We propose an automated approach for fault localization and repair, Fix-Con, during model conversion between deep learning frameworks. Fix-Con is capable of detecting and fixing faults introduced in model input, parameters, hyperparameters, and the model graph during conversion. Fix-Con uses a set of fault types mined from surveying conversion issues raised to localize potential conversion faults in the converted target model, and then repairs them appropriately, e.g. replacing the parameters of the target model with those from the source model. This is done iteratively for every image in the dataset with output label differences between the source model and the converted target model until all differences are resolved. We evaluate the effectiveness of Fix-Con in fixing model conversion bugs of three widely used image recognition models converted across four different deep learning frameworks. Overall, Fix-Con was able to either completely repair, or significantly improve the performance of 14 out of the 15 erroneous conversion cases.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL