Uncertainty Estimation in Multi-Agent Distributed Learning

要約

従来、IoT エッジ デバイスは主に、自律動作のための機能が限られた低電力コンポーネントとして認識されてきました。
しかし、組み込み AI ハードウェア設計の新たな進歩により、根本的な変化が将来の可能性への道を切り開きます。
したがって、KDT NEUROKIT2E プロジェクトの目的は、量子化、プルーニングを意識したトレーニング、およびスパース化における新しい手法を開発することで、エッジ デバイスでの AI アプリケーションをさらに促進するための新しいオープンソース フレームワークを確立することです。
これらのイノベーションは、このようなデバイスの機能範囲を大幅に拡大する可能性を秘めており、ローカル リソースを利用して複雑な機械学習 (ML) タスクを管理できるようになり、革新的な学習アプローチの基礎が築かれます。
6G の変革の可能性を考えると、独立したエージェント間の分散学習が極めて重要なアプリケーションとして浮上しています。これは、6G ネットワークが超信頼性の高い低遅延通信、強化されたデータ レート、高度なエッジ コンピューティング機能をサポートしているためです。
私たちの研究は、エッジネットワーク対応エージェントが分散環境で共同学習に参加できるようにするメカニズムと方法論に焦点を当てています。
特に、分散協調学習における重要な問題の 1 つは、独立したエージェントによって知覚されるデータセットの時空間的局所性を考慮して、学習結果の信頼度を決定することです。

要約(オリジナル)

Traditionally, IoT edge devices have been perceived primarily as low-power components with limited capabilities for autonomous operations. Yet, with emerging advancements in embedded AI hardware design, a foundational shift paves the way for future possibilities. Thus, the aim of the KDT NEUROKIT2E project is to establish a new open-source framework to further facilitate AI applications on edge devices by developing new methods in quantization, pruning-aware training, and sparsification. These innovations hold the potential to expand the functional range of such devices considerably, enabling them to manage complex Machine Learning (ML) tasks utilizing local resources and laying the groundwork for innovative learning approaches. In the context of 6G’s transformative potential, distributed learning among independent agents emerges as a pivotal application, attributed to 6G networks’ support for ultra-reliable low-latency communication, enhanced data rates, and advanced edge computing capabilities. Our research focuses on the mechanisms and methodologies that allow edge network-enabled agents to engage in collaborative learning in distributed environments. Particularly, one of the key issues within distributed collaborative learning is determining the degree of confidence in the learning results, considering the spatio-temporal locality of data sets perceived by independent agents.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google