「cs.DC」カテゴリーアーカイブ

Survey of Federated Learning Models for Spatial-Temporal Mobility Applications

投稿日: 2023年6月28日 作成者: jarxiv

要約 フェデレーテッド ラーニングには、トレーニング データがローカルに保たれる … 続きを読む →

カテゴリー: A.1, cs.AI, cs.DC, cs.IR, cs.LG, cs.SI | Survey of Federated Learning Models for Spatial-Temporal Mobility Applications はコメントを受け付けていません

When Foundation Model Meets Federated Learning: Motivations, Challenges, and Future Directions

投稿日: 2023年6月28日 作成者: jarxiv

要約 Foundation Model (FM) と Federated Lea … 続きを読む →

カテゴリー: cs.AI, cs.DC, cs.LG | When Foundation Model Meets Federated Learning: Motivations, Challenges, and Future Directions はコメントを受け付けていません

Asynchronous Execution of Heterogeneous Tasks in ML-driven HPC Workflows

投稿日: 2023年6月28日 作成者: jarxiv

要約 異種科学ワークフローは、異種リソースでの実行を必要とする多数の種類のタスク … 続きを読む →

カテゴリー: cs.AI, cs.DC, cs.LG | Asynchronous Execution of Heterogeneous Tasks in ML-driven HPC Workflows はコメントを受け付けていません

NetBooster: Empowering Tiny Deep Learning By Standing on the Shoulders of Deep Giants

投稿日: 2023年6月26日 作成者: jarxiv

要約 多数のインテリジェントなモノのインターネット (IoT) デバイスにディー … 続きを読む →

カテゴリー: cs.DC, cs.LG | NetBooster: Empowering Tiny Deep Learning By Standing on the Shoulders of Deep Giants はコメントを受け付けていません

A One-Sample Decentralized Proximal Algorithm for Non-Convex Stochastic Composite Optimization

投稿日: 2023年6月23日 作成者: jarxiv

要約 私たちは、$n$ エージェントが連携して、平滑項と非平滑凸項の合計である複 … 続きを読む →

カテゴリー: cs.DC, cs.LG, math.OC, stat.ML | A One-Sample Decentralized Proximal Algorithm for Non-Convex Stochastic Composite Optimization はコメントを受け付けていません

Decentralized Training of Foundation Models in Heterogeneous Environments

投稿日: 2023年6月22日 作成者: jarxiv

要約 GPT-3 や PaLM などの基礎モデルのトレーニングは非常に高価になる … 続きを読む →

カテゴリー: cs.DC, cs.LG | Decentralized Training of Foundation Models in Heterogeneous Environments はコメントを受け付けていません

Timely Asynchronous Hierarchical Federated Learning: Age of Convergence

投稿日: 2023年6月22日 作成者: jarxiv

要約 クライアント エッジ クラウド フレームワークを使用した非同期階層フェデレ … 続きを読む →

カテゴリー: cs.DC, cs.IT, cs.LG, cs.NI, eess.SP, math.IT | Timely Asynchronous Hierarchical Federated Learning: Age of Convergence はコメントを受け付けていません

Just One Byte (per gradient): A Note on Low-Bandwidth Decentralized Language Model Finetuning Using Shared Randomness

投稿日: 2023年6月19日 作成者: jarxiv

要約 分散設定での言語モデルのトレーニングは、勾配交換の通信コストによって制限さ … 続きを読む →

カテゴリー: cs.CL, cs.DC, cs.LG | Just One Byte (per gradient): A Note on Low-Bandwidth Decentralized Language Model Finetuning Using Shared Randomness はコメントを受け付けていません

Fedstellar: A Platform for Decentralized Federated Learning

投稿日: 2023年6月19日 作成者: jarxiv

要約 2016 年、Google は、データのプライバシーを保護しながら、フェデ … 続きを読む →

カテゴリー: cs.AI, cs.DC, cs.LG, cs.NI | Fedstellar: A Platform for Decentralized Federated Learning はコメントを受け付けていません

Decentralized SGD and Average-direction SAM are Asymptotically Equivalent

投稿日: 2023年6月13日 作成者: jarxiv

要約 分散型確率的勾配降下法 (D-SGD) を使用すると、中央サーバーの制御な … 続きを読む →

カテゴリー: cs.CY, cs.DC, cs.LG, cs.SY, eess.SY, stat.ML | Decentralized SGD and Average-direction SAM are Asymptotically Equivalent はコメントを受け付けていません