APEX: Empowering LLMs with Physics-Based Task Planning for Real-time Insight

要約

大規模な言語モデル（LLM）は、強力な推論とタスク計画機能を示していますが、物理的な相互作用モデリングにおいて根本的に限られたままです。
既存のアプローチは、ビジョン言語モデル（VLM）または強化学習（RL）を介した適応的意思決定を介して知覚を統合しますが、動的なオブジェクトの相互作用をキャプチャすることも、タスク固有のトレーニングを必要とし、現実世界の適用性を制限します。
リアルタイムタスク計画のために物理学駆動型の先見性をLLMに装備するフレームワークであるApex（予想物理学強化実行）を紹介します。
APEXは、環境で最も関連性の高い動的相互作用を識別およびモデル化するための構造化グラフを構築し、LLMに明示的な物理状態の更新を提供します。
同時に、APEXは物理的に実行可能なアクションの低遅延の前方シミュレーションを提供し、LLMが静的観測ではなく予測結果に基づいて最適な戦略を選択できるようにします。
知覚、予測、および意思決定を評価するために設計された3つのベンチマークで頂点を評価します。（1）物理学の推論ベンチマーク、因果推論、およびオブジェクトモーション予測のテスト。
（2）Tetris、物理学に基づいた予測が長期の計画タスクにおける意思決定パフォーマンスを高めるかどうかを評価する。
（3）動的障害回避、知覚とアクションの実現可能性分析の即時統合の評価。
Apexは、標準のLLMおよびVLMベースのモデルを大幅に上回り、言語ベースのインテリジェンスと実際のタスク実行の間のギャップを埋めるための明示的な物理的推論の必要性を示しています。
ソースコードと実験のセットアップは、https://github.com/hwj20/apex_expで公開されています。

要約(オリジナル)

Large Language Models (LLMs) demonstrate strong reasoning and task planning capabilities but remain fundamentally limited in physical interaction modeling. Existing approaches integrate perception via Vision-Language Models (VLMs) or adaptive decision-making through Reinforcement Learning (RL), but they fail to capture dynamic object interactions or require task-specific training, limiting their real-world applicability. We introduce APEX (Anticipatory Physics-Enhanced Execution), a framework that equips LLMs with physics-driven foresight for real-time task planning. APEX constructs structured graphs to identify and model the most relevant dynamic interactions in the environment, providing LLMs with explicit physical state updates. Simultaneously, APEX provides low-latency forward simulations of physically feasible actions, allowing LLMs to select optimal strategies based on predictive outcomes rather than static observations. We evaluate APEX on three benchmarks designed to assess perception, prediction, and decision-making: (1) Physics Reasoning Benchmark, testing causal inference and object motion prediction; (2) Tetris, evaluating whether physics-informed prediction enhances decision-making performance in long-horizon planning tasks; (3) Dynamic Obstacle Avoidance, assessing the immediate integration of perception and action feasibility analysis. APEX significantly outperforms standard LLMs and VLM-based models, demonstrating the necessity of explicit physics reasoning for bridging the gap between language-based intelligence and real-world task execution. The source code and experiment setup are publicly available at https://github.com/hwj20/APEX_EXP .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google