Pretrained Embeddings as a Behavior Specification Mechanism

要約

物理世界との相互作用のために知覚モデルに依存するシステムの行動特性を正式に指定するアプローチを提案します。
重要なアイデアは、埋め込み – 実世界の概念の数学的表現 – を導入することです。特別な言語のファーストクラスの構造として、特性は理想的な埋め込みと観測された埋め込みの距離で表現されます。
このアプローチを実現するために、埋め込み時間論理（ETL）と呼ばれる新しいタイプの時間論的論理を提案し、以前よりもAI対応システムに関するより広い範囲の特性を表現するために使用する方法を説明します。
基礎モデルによって駆動されるロボットの計画タスクを含む予備評価を通じて、ETLの適用性を実証します。
結果は有望であり、埋め込みベースの仕様を使用して、システムを望ましい動作に向けることができることを示しています。

要約(オリジナル)

We propose an approach to formally specifying the behavioral properties of systems that rely on a perception model for interactions with the physical world. The key idea is to introduce embeddings — mathematical representations of a real-world concept — as a first-class construct in a specification language, where properties are expressed in terms of distances between a pair of ideal and observed embeddings. To realize this approach, we propose a new type of temporal logic called Embedding Temporal Logic (ETL), and describe how it can be used to express a wider range of properties about AI-enabled systems than previously possible. We demonstrate the applicability of ETL through a preliminary evaluation involving planning tasks in robots that are driven by foundation models; the results are promising, showing that embedding-based specifications can be used to steer a system towards desirable behaviors.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google