SimLM: Can Language Models Infer Parameters of Physical Systems?

要約

いくつかの機械学習手法は、複雑な物理システムについて学習または推論することを目的としています。
推論への一般的な最初のステップは、動作の観察からシステム パラメーターを推測することです。
この論文では、物理システムのコンテキストでパラメータ推論を実行する際の大規模言語モデル (LLM) のパフォーマンスを調査します。
私たちの実験は、単純なシステムであっても、本質的にこのタスクには適していないことを示しています。
私たちは、LLM のコンテキストを拡張する物理シミュレーターの使用を含む、有望な探求の方向性を提案します。
物理シミュレーションへのアクセスの有無にかかわらず、簡単な例でさまざまな LLM のパフォーマンスを評価し、比較します。

要約(オリジナル)

Several machine learning methods aim to learn or reason about complex physical systems. A common first-step towards reasoning is to infer system parameters from observations of its behavior. In this paper, we investigate the performance of Large Language Models (LLMs) at performing parameter inference in the context of physical systems. Our experiments suggest that they are not inherently suited to this task, even for simple systems. We propose a promising direction of exploration, which involves the use of physical simulators to augment the context of LLMs. We assess and compare the performance of different LLMs on a simple example with and without access to physical simulation.

arxiv情報

著者 Sean Memery,Mirella Lapata,Kartic Subr
発行日 2024-02-06 10:15:01+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CL, I.2.7 パーマリンク