Adopting Large Language Models to Automated System Integration

要約

Modern Enterprise Computing Systemsは、多数のサブシステムを統合して、緊急行動を生み出すことで共通のタスクを解決します。
広範なアプローチは、それぞれ相互作用メカニズムとサービスドキュメントの基準を提供するRestやOpenapiなどのWebテクノロジーで実装されたサービスを使用することです。
各サービスは特定のビジネス機能を表し、カプセル化とメンテナンスが容易になります。
個々のサービスレベルでのメンテナンスコストの削減にもかかわらず、統合の複雑さの増加が生じます。
その結果、この問題を軽減するために、自動化されたサービス構成アプローチが生じています。
それにもかかわらず、これらのアプローチは、複雑な正式なモデリングに依存しているため、実際に高い受け入れを達成していません。
この博士号内
論文では、自然言語の入力に基づいてサービスを自動的に統合するために、大規模な言語モデル（LLMS）の適用を分析します。
その結果、プログラムコードなど、再利用可能なサービス構成ができます。
常に完全に正しい結果を生成するわけではありませんが、統合エンジニアに適切なソリューションの密接な近似を提供することで結果が役立つ可能性があります。
私たちの研究には、（i）LLMSを使用した自動サービス構成のソフトウェアアーキテクチャの導入（ii）サービス発見のための検索拡張生成（RAG）、（iii）サービス発見のための新しい自然言語クエリベースのベンチマークを提案し、（iv）ベンチマークを完全なサービス構成シナリオに拡張することを提案します。
ソフトウェアアーキテクチャをCompositio Prompto、サービス発見のためのRAGの分析として提示し、サービスディスカバリーベンチマークの提案を提出しました。
オープントピックは、主にサービス構成シナリオへのサービスディスカバリーベンチマークの拡張と、たとえば、微調整またはLLMエージェントを使用するサービス構成生成の改善です。

要約(オリジナル)

Modern enterprise computing systems integrate numerous subsystems to resolve a common task by yielding emergent behavior. A widespread approach is using services implemented with Web technologies like REST or OpenAPI, which offer an interaction mechanism and service documentation standard, respectively. Each service represents a specific business functionality, allowing encapsulation and easier maintenance. Despite the reduced maintenance costs on an individual service level, increased integration complexity arises. Consequently, automated service composition approaches have arisen to mitigate this issue. Nevertheless, these approaches have not achieved high acceptance in practice due to their reliance on complex formal modeling. Within this Ph.D. thesis, we analyze the application of Large Language Models (LLMs) to automatically integrate the services based on a natural language input. The result is a reusable service composition, e.g., as program code. While not always generating entirely correct results, the result can still be helpful by providing integration engineers with a close approximation of a suitable solution, which requires little effort to become operational. Our research involves (i) introducing a software architecture for automated service composition using LLMs, (ii) analyzing Retrieval Augmented Generation (RAG) for service discovery, (iii) proposing a novel natural language query-based benchmark for service discovery, and (iv) extending the benchmark to complete service composition scenarios. We have presented our software architecture as Compositio Prompto, the analysis of RAG for service discovery, and submitted a proposal for the service discovery benchmark. Open topics are primarily the extension of the service discovery benchmark to service composition scenarios and the improvements of the service composition generation, e.g., using fine-tuning or LLM agents.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google