要約
この論文では、人々が生活できるサイバー空間である \emph{仮想世界} に焦点を当てます。理想的な仮想世界は、私たちの現実世界と非常によく似ています。
重要な側面の 1 つは、個人が成長し、それによって客観的な世界に影響を与える能力に反映される、その進化する性質です。
このようなダイナミクスは予測不可能であり、既存のシステムでは対応できません。
このため、この仮想世界を駆動する \textbf{\emph{Delta-Engine}} と呼ばれる特別なエンジンを提案します。
$\Delta$ は、世界の進化をエンジンのスケーラビリティに関連付けます。
これは、ベース エンジンとニューラル プロキシで構成されます。
ベース エンジンは仮想世界のプロトタイプをプログラムします。
トリガーが与えられると、ニューラル プロキシは \emph{増分予測} を通じてベース エンジン上に新しいスニペットを生成します。
このペーパーでは、デルタ エンジンのフルスタックを紹介します。
デルタ エンジンの主な特徴は、世界中の未知の要素に対する拡張性です。技術的には、ニューラル プロキシとベース エンジンの完璧な連携と、高品質のデータとの連携に由来しています。
ベース エンジンをプロキシに組み込む、エンジン指向の微調整方法を導入します。
次に、新規で興味深いデータを効率的に生成するための人間と LLM の協調設計について説明します。
最終的に、デルタ エンジンのパフォーマンスを包括的に評価するための 3 つの評価原則、つまり単純評価、増分評価、敵対的評価を提案します。
要約(オリジナル)
In this paper, we focus on the \emph{virtual world}, a cyberspace where people can live in. An ideal virtual world shares great similarity with our real world. One of the crucial aspects is its evolving nature, reflected by individuals’ capability to grow and thereby influence the objective world. Such dynamics is unpredictable and beyond the reach of existing systems. For this, we propose a special engine called \textbf{\emph{Delta-Engine}} to drive this virtual world. $\Delta$ associates the world’s evolution to the engine’s scalability. It consists of a base engine and a neural proxy. The base engine programs the prototype of the virtual world; given a trigger, the neural proxy generates new snippets on the base engine through \emph{incremental prediction}. This paper presents a full-stack introduction to the delta-engine. The key feature of the delta-engine is its scalability to unknown elements within the world, Technically, it derives from the prefect co-work of the neural proxy and the base engine, and the alignment with high-quality data. We introduce an engine-oriented fine-tuning method that embeds the base engine into the proxy. We then discuss the human-LLM collaborative design to produce novel and interesting data efficiently. Eventually, we propose three evaluation principles to comprehensively assess the performance of a delta engine: naive evaluation, incremental evaluation, and adversarial evaluation.
arxiv情報
| 著者 | Hongqiu Wu,Zekai Xu,Tianyang Xu,Shize Wei,Yan Wang,Jiale Hong,Weiqi Wu,Hai Zhao,Min Zhang,Zhezhi He |
| 発行日 | 2024-09-02 15:08:32+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google