Comgra: A Tool for Analyzing and Debugging Neural Networks

要約

ニューラル ネットワークは検査が難しいことで知られています。
PyTorch で使用するオープンソースの Python ライブラリである comgra を紹介します。
Comgra は、モデルの内部アクティベーションに関するデータを抽出し、それを GUI (グラフィカル ユーザー インターフェイス) に編成します。
概要統計と個々のデータ ポイントの両方を表示し、トレーニングの初期段階と後期段階を比較し、対象の個々のサンプルに焦点を当て、ネットワークを介した勾配の流れを視覚化できます。
これにより、モデルの動作をさまざまな角度から検査できるようになり、モデルを再実行することなくさまざまな仮説を迅速にテストすることで時間を節約できます。
Comgra には、デバッグ、ニューラル アーキテクチャ設計、および機構の解釈のためのアプリケーションがあります。
私たちは Python Package Index (PyPI) を通じてライブラリを公開し、https://github.com/FlorianDietz/comgra でコード、ドキュメント、チュートリアルを提供します。

要約(オリジナル)

Neural Networks are notoriously difficult to inspect. We introduce comgra, an open source python library for use with PyTorch. Comgra extracts data about the internal activations of a model and organizes it in a GUI (graphical user interface). It can show both summary statistics and individual data points, compare early and late stages of training, focus on individual samples of interest, and visualize the flow of the gradient through the network. This makes it possible to inspect the model’s behavior from many different angles and save time by rapidly testing different hypotheses without having to rerun it. Comgra has applications for debugging, neural architecture design, and mechanistic interpretability. We publish our library through Python Package Index (PyPI) and provide code, documentation, and tutorials at https://github.com/FlorianDietz/comgra.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google