Brain Storm Optimization Based Swarm Learning for Diabetic Retinopathy Image Classification

要約

医療問題への深層学習技術の適用は、畳み込みニューラル ネットワークを医療画像分類タスクに適用するなど、近年、幅広い研究の関心を集めています。
ただし、医療分野のデータは機密性が高いことが多く、さまざまな病院がデータを共有して正確なモデルをトレーニングすることができません。
フェデレーテッド ラーニングは、プライバシーを保護する機械学習アーキテクチャとして、プライベート データをクライアント側に保持し、アップロードされたモデルを集約することでモデル トレーニング用に一連のクライアントを調整するために中央サーバーを使用することにより、データ プライバシーとモデルの有用性のバランスをとる点で有望なパフォーマンスを示しています。
パラメーター。
ただし、このアーキテクチャは信頼できるサードパーティのサーバーに大きく依存しているため、現実に実現するのは困難です。
スウォーム ラーニングは、中央サーバーを必要としない特殊な分散型フェデレーテッド ラーニング アーキテクチャとして、ブロックチェーン テクノロジーを利用してクライアント間の直接パラメーター交換を可能にします。
ただし、ブロックのマイニングには大量の計算リソースが必要となり、そのスケーラビリティが制限されます。
この問題に対処するために、この論文ではブレインストーム最適化アルゴリズムを BSO-SL という名前の群学習フレームワークに統合します。
このアプローチでは、モデルの分布に基づいて、類似したクライアントを異なるグループに分類します。
さらに、BSO のアーキテクチャを活用することで、クライアントはクラスター内とクラスター外のクライアントの両方で協調学習に参加できる可能性が与えられ、モデルが局所最適に収束するのを防ぎます。
提案された方法は現実世界の糖尿病性網膜症画像分類データセットで検証されており、実験結果は提案されたアプローチの有効性を示しています。

要約(オリジナル)

The application of deep learning techniques to medical problems has garnered widespread research interest in recent years, such as applying convolutional neural networks to medical image classification tasks. However, data in the medical field is often highly private, preventing different hospitals from sharing data to train an accurate model. Federated learning, as a privacy-preserving machine learning architecture, has shown promising performance in balancing data privacy and model utility by keeping private data on the client’s side and using a central server to coordinate a set of clients for model training through aggregating their uploaded model parameters. Yet, this architecture heavily relies on a trusted third-party server, which is challenging to achieve in real life. Swarm learning, as a specialized decentralized federated learning architecture that does not require a central server, utilizes blockchain technology to enable direct parameter exchanges between clients. However, the mining of blocks requires significant computational resources, limiting its scalability. To address this issue, this paper integrates the brain storm optimization algorithm into the swarm learning framework, named BSO-SL. This approach clusters similar clients into different groups based on their model distributions. Additionally, leveraging the architecture of BSO, clients are given the probability to engage in collaborative learning both within their cluster and with clients outside their cluster, preventing the model from converging to local optima. The proposed method has been validated on a real-world diabetic retinopathy image classification dataset, and the experimental results demonstrate the effectiveness of the proposed approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google