DetGPT: Detect What You Need via Reasoning

要約

近年、大規模言語モデル (LLM) の開発により、コンピューター ビジョンの分野が大幅に進歩しました。
これらのモデルは、人間と機械の間のより効果的かつ洗練された相互作用を可能にし、人間と機械の知能の間の境界線を曖昧にする新しい技術への道を切り開きました。
この論文では、推論ベースのオブジェクト検出と呼ばれるオブジェクト検出の新しいパラダイムを紹介します。
特定のオブジェクト名に依存する従来のオブジェクト検出方法とは異なり、私たちのアプローチでは、ユーザーが自然言語命令を使用してシステムと対話できるため、より高いレベルの対話性が可能になります。
私たちが提案する DetGPT と呼ばれる方法は、最先端のマルチモーダル モデルとオープン語彙オブジェクト検出器を利用して、ユーザーの指示と視覚的なシーンのコンテキスト内で推論を実行します。
これにより、オブジェクトが明示的に言及されていない場合でも、DetGPT は、ユーザーの表明された要望に基づいて、関心のあるオブジェクトを自動的に見つけることができます。
たとえば、ユーザーが冷たい飲み物が欲しいと表明した場合、DetGPT は画像を分析し、冷蔵庫を特定し、典型的な冷蔵庫の内容に関する知識を使用して飲み物を見つけることができます。
この柔軟性により、当社のシステムはロボット工学やオートメーションから自動運転に至るまで、幅広い分野に適用できます。
全体として、私たちが提案するパラダイムと DetGPT は、人間と機械の間のより洗練された直観的な対話の可能性を示しています。
私たちが提案するパラダイムとアプローチがコミュニティにインスピレーションを与え、よりインタラクティブで多用途な物体検出システムへの扉を開くことを願っています。
私たちのプロジェクト ページは detgpt.github.io で開設されました。

要約(オリジナル)

In recent years, the field of computer vision has seen significant advancements thanks to the development of large language models (LLMs). These models have enabled more effective and sophisticated interactions between humans and machines, paving the way for novel techniques that blur the lines between human and machine intelligence. In this paper, we introduce a new paradigm for object detection that we call reasoning-based object detection. Unlike conventional object detection methods that rely on specific object names, our approach enables users to interact with the system using natural language instructions, allowing for a higher level of interactivity. Our proposed method, called DetGPT, leverages state-of-the-art multi-modal models and open-vocabulary object detectors to perform reasoning within the context of the user’s instructions and the visual scene. This enables DetGPT to automatically locate the object of interest based on the user’s expressed desires, even if the object is not explicitly mentioned. For instance, if a user expresses a desire for a cold beverage, DetGPT can analyze the image, identify a fridge, and use its knowledge of typical fridge contents to locate the beverage. This flexibility makes our system applicable across a wide range of fields, from robotics and automation to autonomous driving. Overall, our proposed paradigm and DetGPT demonstrate the potential for more sophisticated and intuitive interactions between humans and machines. We hope that our proposed paradigm and approach will provide inspiration to the community and open the door to more interative and versatile object detection systems. Our project page is launched at detgpt.github.io.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google