In-situ graph reasoning and knowledge expansion using Graph-PReFLexOR

要約

自動化された科学的発見の追求により、記号論理から現代の AI への進歩が促進され、推論とパターン認識の新境地が開かれました。
トランスフォーマーはポテンシャル システムとして機能します。そこでは、タスクが測定に似た制約を課すまで、あらゆる可能な関係が潜在的な可能性を保ちます。
しかし、サンプリングを改良するには、確率論的な選択以上のものが必要です。ソリューションは特定の構造やルールに準拠し、一貫性と一般原則の援用を確保する必要があります。
我々は、グラフ推論と記号抽象化を組み合わせてドメイン知識を動的に拡張するフレームワークである、Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for Exploratory Optimization of Reasoning) を紹介します。
強化学習からインスピレーションを得た Graph-PReFLexOR は、推論を構造化マッピングとして定義し、タスクによってナレッジ グラフ、抽象パターン、そして最終的には最終的な答えが得られます。
カテゴリ理論に触発され、概念をノードとして、その関係をエッジとしてエンコードし、同型表現による階層推論と適応学習をサポートします。
デモンストレーションには、仮説の生成、材料設計、および「薄い場所」などの神話の概念と材料科学との関係の発見などの創造的な推論が含まれます。
私たちは、ドメイン間の洞察を統合し、学際的なつながりを促進する「ナレッジ ガーデンの成長」戦略を提案します。
30 億パラメータの Graph-PReFLexOR モデルを使用した結果は、優れた推論の深さと適応性を示し、透過的で学際的な AI 主導の発見の可能性を強調しています。
これは、一般的な自律推論ソリューションの基礎を築きます。

要約(オリジナル)

The pursuit of automated scientific discovery has fueled progress from symbolic logic to modern AI, forging new frontiers in reasoning and pattern recognition. Transformers function as potential systems, where every possible relationship remains latent potentiality until tasks impose constraints, akin to measurement. Yet, refining their sampling requires more than probabilistic selection: solutions must conform to specific structures or rules, ensuring consistency and the invocation of general principles. We present Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for Exploratory Optimization of Reasoning), a framework that combines graph reasoning with symbolic abstraction to dynamically expand domain knowledge. Inspired by reinforcement learning, Graph-PReFLexOR defines reasoning as a structured mapping, where tasks yield knowledge graphs, abstract patterns, and ultimately, final answers. Inspired by category theory, it encodes concepts as nodes and their relationships as edges, supporting hierarchical inference and adaptive learning through isomorphic representations. Demonstrations include hypothesis generation, materials design, and creative reasoning, such as discovering relationships between mythological concepts like ‘thin places’ with materials science. We propose a ‘knowledge garden growth’ strategy that integrates insights across domains, promoting interdisciplinary connections. Results with a 3-billion-parameter Graph-PReFLexOR model show superior reasoning depth and adaptability, underscoring the potential for transparent, multidisciplinary AI-driven discovery. It lays the groundwork for general autonomous reasoning solutions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google