「cs.DC」カテゴリーアーカイブ

TACOS: Topology-Aware Collective Algorithm Synthesizer for Distributed Machine Learning

投稿日: 2024年4月1日 作成者: jarxiv

要約 人工知能、特に大規模な言語モデルの急増により、大規模な機械学習トレーニング … 続きを読む →

カテゴリー: cs.DC, cs.LG | TACOS: Topology-Aware Collective Algorithm Synthesizer for Distributed Machine Learning はコメントを受け付けていません

Towards Greener LLMs: Bringing Energy-Efficiency to the Forefront of LLM Inference

投稿日: 2024年4月1日 作成者: jarxiv

要約 最新の大規模言語モデル (LLM) が業界全体で広く使用されているため、こ … 続きを読む →

カテゴリー: cs.AI, cs.AR, cs.DC, I.2 | Towards Greener LLMs: Bringing Energy-Efficiency to the Forefront of LLM Inference はコメントを受け付けていません

OpenMoE: An Early Effort on Open Mixture-of-Experts Language Models

投稿日: 2024年3月28日 作成者: jarxiv

要約 オープンソース コミュニティが専門家混合 (MoE) ベースの大規模言語モ … 続きを読む →

カテゴリー: cs.AI, cs.CL, cs.DC, cs.LG | OpenMoE: An Early Effort on Open Mixture-of-Experts Language Models はコメントを受け付けていません

FedSN: A Novel Federated Learning Framework over LEO Satellite Networks

投稿日: 2024年3月28日 作成者: jarxiv

要約 最近、SpaceX などの民間企業によって、多数の低地球軌道 (LEO) … 続きを読む →

カテゴリー: cs.AI, cs.DC, cs.LG | FedSN: A Novel Federated Learning Framework over LEO Satellite Networks はコメントを受け付けていません

Superior Parallel Big Data Clustering through Competitive Stochastic Sample Size Optimization in Big-means

投稿日: 2024年3月28日 作成者: jarxiv

要約 この論文では、従来の Big-means 手法を進歩させた、新しい K-m … 続きを読む →

カテゴリー: cs.AI, cs.DC, cs.IR, cs.LG | Superior Parallel Big Data Clustering through Competitive Stochastic Sample Size Optimization in Big-means はコメントを受け付けていません

A 4D Hybrid Algorithm to Scale Parallel Training to Thousands of GPUs

投稿日: 2024年3月28日 作成者: jarxiv

要約 分散システム上で最先端のニューラル ネットワークをトレーニングする場合、多 … 続きを読む →

カテゴリー: cs.AI, cs.DC, cs.LG, cs.PF | A 4D Hybrid Algorithm to Scale Parallel Training to Thousands of GPUs はコメントを受け付けていません

Empowering Data Mesh with Federated Learning

投稿日: 2024年3月28日 作成者: jarxiv

要約 データ アーキテクチャの進化により、データ管理のボトルネックを解決し、イン … 続きを読む →

カテゴリー: cs.DC, cs.LG | Empowering Data Mesh with Federated Learning はコメントを受け付けていません

GPFL: A Gradient Projection-Based Client Selection Framework for Efficient Federated Learning

投稿日: 2024年3月27日 作成者: jarxiv

要約 フェデレーション ラーニング クライアントの選択は、モデルの精度と通信効率 … 続きを読む →

カテゴリー: cs.DC, cs.LG | GPFL: A Gradient Projection-Based Client Selection Framework for Efficient Federated Learning はコメントを受け付けていません

Activations and Gradients Compression for Model-Parallel Training

投稿日: 2024年3月27日 作成者: jarxiv

要約 大規模なニューラル ネットワークには、膨大なマシンの計算クラスターが必要で … 続きを読む →

カテゴリー: cs.DC, cs.LG, math.OC | Activations and Gradients Compression for Model-Parallel Training はコメントを受け付けていません

Empowering Data Mesh with Federated Learning

投稿日: 2024年3月27日 作成者: jarxiv

要約 データ アーキテクチャの進化により、データ管理のボトルネックを解決し、イン … 続きを読む →

カテゴリー: cs.DC, cs.LG | Empowering Data Mesh with Federated Learning はコメントを受け付けていません