Artificial Neural Nets and the Representation of Human Concepts

要約

人工ニューラル ネットワーク (ANN) は何を学習しますか?
機械学習 (ML) コミュニティは、ANN が複雑なタスクを実行するには抽象的な人間の概念を開発する必要があるという説を共有しています。
さらに進んで、これらの概念はネットワークの個々のユニットに保存されていると考える人もいます。
現在の研究に基づいて、この物語の根底にある仮定を体系的に調査します。
私は、ANN は実際に複雑な予測タスクを実行することができ、そのために人間と人間以外の概念を学習する可能性があると結論付けています。
しかし、証拠は、ANN がこれらの概念を個々の単位で表していないことを示しています。

要約(オリジナル)

What do artificial neural networks (ANNs) learn? The machine learning (ML) community shares the narrative that ANNs must develop abstract human concepts to perform complex tasks. Some go even further and believe that these concepts are stored in individual units of the network. Based on current research, I systematically investigate the assumptions underlying this narrative. I conclude that ANNs are indeed capable of performing complex prediction tasks, and that they may learn human and non-human concepts to do so. However, evidence indicates that ANNs do not represent these concepts in individual units.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google