Large Language Model (LLM) for Telecommunications: A Comprehensive Survey on Principles, Key Techniques, and Opportunities

要約

大規模言語モデル (LLM) は、その卓越した理解力と推論能力により最近大きな注目を集めており、多くの分野で大きな進歩をもたらしています。
LLM 技術の進歩により、電気通信 (テレコム) 分野の多くのタスクを自動化する有望な機会も提供されます。
事前トレーニングと微調整の後、LLM は人間の指示に基づいてさまざまなダウンストリーム タスクを実行できるようになり、汎用人工知能 (AGI) 対応の 6G への道が開かれます。
LLM テクノロジーの大きな可能性を考慮して、この作業は、LLM 対応の通信ネットワークの包括的な概要を提供することを目的としています。
特に、モデル アーキテクチャ、事前トレーニング、微調整、推論と利用、モデルの評価、通信展開などの LLM の基礎を最初に紹介します。
次に、生成、分類、最適化、予測問題の観点から、LLM 対応の主要な技術と通信アプリケーションを紹介します。
具体的には、LLM 対応の生成アプリケーションには、通信ドメインの知識、コード、ネットワーク構成の生成が含まれます。
その後、LLM ベースの分類アプリケーションには、ネットワーク セキュリティ、テキスト、画像、トラフィック分類の問題が含まれます。
さらに、強化学習や言語強化学習のための自動報酬関数設計など、LLM を利用した複数の最適化手法が導入されています。
さらに、LLM 支援予測問題については、通信の時系列予測モデルとマルチモダリティ予測問題について説明しました。
最後に、課題を強調し、LLM 対応の通信ネットワークの将来の方向性を特定します。

要約(オリジナル)

Large language models (LLMs) have received considerable attention recently due to their outstanding comprehension and reasoning capabilities, leading to great progress in many fields. The advancement of LLM techniques also offers promising opportunities to automate many tasks in the telecommunication (telecom) field. After pre-training and fine-tuning, LLMs can perform diverse downstream tasks based on human instructions, paving the way to artificial general intelligence (AGI)-enabled 6G. Given the great potential of LLM technologies, this work aims to provide a comprehensive overview of LLM-enabled telecom networks. In particular, we first present LLM fundamentals, including model architecture, pre-training, fine-tuning, inference and utilization, model evaluation, and telecom deployment. Then, we introduce LLM-enabled key techniques and telecom applications in terms of generation, classification, optimization, and prediction problems. Specifically, the LLM-enabled generation applications include telecom domain knowledge, code, and network configuration generation. After that, the LLM-based classification applications involve network security, text, image, and traffic classification problems. Moreover, multiple LLM-enabled optimization techniques are introduced, such as automated reward function design for reinforcement learning and verbal reinforcement learning. Furthermore, for LLM-aided prediction problems, we discussed time-series prediction models and multi-modality prediction problems for telecom. Finally, we highlight the challenges and identify the future directions of LLM-enabled telecom networks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google