Solving morphological analogies: from retrieval to generation

要約

類推推論は人間の推論の驚くべき能力であり、難しい推論タスクを解決するために使用されてきました。
類推ベースの推論 (AR) は、人工知能コミュニティからの関心が高まっており、分類、意思決定、競争力のある結果を伴う推奨など、複数の機械学習タスクにおいてその可能性が示されています。
私たちは、AR の 2 つの主要なタスク、類似性の検出と解決に対処し、取り組むためのディープ ラーニング (DL) フレームワークを提案します。
このフレームワークは、単語間の形態学的類似比率 (AP) の Siganalogies データセットで徹底的にテストされ、多くの言語で記号的アプローチを上回るパフォーマンスを示すことが示されています。
これまでの研究では、類似検出に関する分類用類似ニューラル ネットワーク (ANNc) の動作と、検索による類似解決に関する検索用類似ニューラル ネットワーク (ANNr) の動作、および類似解決のためのオートエンコーダー (AE) の可能性を調査しました。
解決ワードを生成することによって。
この記事では、これらの調査結果を要約し、ANNr と AE 埋め込みモデルを組み合わせて、検索方法としての ANNc のパフォーマンスを確認することで調査結果を拡張します。
ANNr と AE の組み合わせは、ほとんどすべてのケースで他のアプローチよりも優れたパフォーマンスを発揮し、検索方法としての ANNc は 3CosMul と同等以上のパフォーマンスを実現します。
最後に、DL を使用して AP に対処するためのフレームワークの使用に関する一般的なガイドラインを示します。

要約(オリジナル)

Analogical inference is a remarkable capability of human reasoning, and has been used to solve hard reasoning tasks. Analogy based reasoning (AR) has gained increasing interest from the artificial intelligence community and has shown its potential in multiple machine learning tasks such as classification, decision making and recommendation with competitive results. We propose a deep learning (DL) framework to address and tackle two key tasks in AR: analogy detection and solving. The framework is thoroughly tested on the Siganalogies dataset of morphological analogical proportions (APs) between words, and shown to outperform symbolic approaches in many languages. Previous work have explored the behavior of the Analogy Neural Network for classification (ANNc) on analogy detection and of the Analogy Neural Network for retrieval (ANNr) on analogy solving by retrieval, as well as the potential of an autoencoder (AE) for analogy solving by generating the solution word. In this article we summarize these findings and we extend them by combining ANNr and the AE embedding model, and checking the performance of ANNc as an retrieval method. The combination of ANNr and AE outperforms the other approaches in almost all cases, and ANNc as a retrieval method achieves competitive or better performance than 3CosMul. We conclude with general guidelines on using our framework to tackle APs with DL.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google