NSA: Neuro-symbolic ARC Challenge

要約

Abstraction and Reasoning Corpus (ARC) は、機械学習モデルと組み合わせ検索手法の両方では困難な一般的な推論機能を評価します。
提案生成のためのトランスフォーマーとドメイン固有言語を使用した組み合わせ検索を組み合わせた神経記号的アプローチを提案します。
トランスフォーマーは、有望な検索方向を提案することで検索空間を狭め、組み合わせ検索で実際の解を短時間で見つけることができます。
合成的に生成されたデータを使用して列車形成装置を事前トレーニングします。
テスト中に、追加のタスク固有のトレーニング タスクを生成し、モデルを微調整します。
私たちの結果は、ARC 評価セットの同等の最新技術を 27% 上回っており、ARC トレイン セットでも遜色ありません。
コードとデータセットは https://github.com/Batorskq/NSA で公開しています。

要約(オリジナル)

The Abstraction and Reasoning Corpus (ARC) evaluates general reasoning capabilities that are difficult for both machine learning models and combinatorial search methods. We propose a neuro-symbolic approach that combines a transformer for proposal generation with combinatorial search using a domain-specific language. The transformer narrows the search space by proposing promising search directions, which allows the combinatorial search to find the actual solution in short time. We pre-train the trainsformer with synthetically generated data. During test-time we generate additional task-specific training tasks and fine-tune our model. Our results surpass comparable state of the art on the ARC evaluation set by 27% and compare favourably on the ARC train set. We make our code and dataset publicly available at https://github.com/Batorskq/NSA.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google