Towards a Foundation Model for Communication Systems

要約

人工知能（AI）は、さまざまなドメインで前例のないパフォーマンスを実証しており、通信システムへの適用は研究の積極的な分野です。
現在の方法はタスク固有のソリューションに焦点を当てていますが、AIのより広範な傾向は、複数のアプリケーションをサポートできる大規模な一般モデルにシフトしています。
この作業では、通信データの基礎モデルに向けて一歩踏み出しました。これは、通信データを直接動作するように設計された変圧器ベースのマルチモーダルモデルです。
トークン化、位置埋め込み、マルチモダリティ、可変特徴サイズ、正規化など、重要な課題に対処する方法論を提案します。
さらに、このようなモデルは、伝送ランク、選択されたプレコダー、ドップラースプレッド、遅延プロファイルなど、複数の機能を正常に推定できることを経験的に実証します。

要約(オリジナル)

Artificial Intelligence (AI) has demonstrated unprecedented performance across various domains, and its application to communication systems is an active area of research. While current methods focus on task-specific solutions, the broader trend in AI is shifting toward large general models capable of supporting multiple applications. In this work, we take a step toward a foundation model for communication data–a transformer-based, multi-modal model designed to operate directly on communication data. We propose methodologies to address key challenges, including tokenization, positional embedding, multimodality, variable feature sizes, and normalization. Furthermore, we empirically demonstrate that such a model can successfully estimate multiple features, including transmission rank, selected precoder, Doppler spread, and delay profile.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google