要約
従来の深層学習アルゴリズムでは、重要な前提の 1 つは、トレーニング中とデプロイメント中の両方でデータ分布が一定に保たれるということです。
ただし、新型コロナウイルス感染症によるロックダウンなどの配信停止期間に直面すると、データ配信がトレーニング中にモデルが観察したものから大幅に逸脱するため、この仮定は問題になります。
この論文では、継続的な学習技術を利用して新しいデータでモデルを更新することと、プライバシーを保護する建物の外にある歩行者カウンターから収集された人間の移動データを活用するという 2 つの戦略を採用しています。
新たに取得した知識によって以前の情報が消去されることが多いため、「壊滅的な忘却」に悩まされるオンライン学習とは対照的に、継続学習は、新しいデータを統合しながら過去の洞察を保存することにより、全体的なアプローチを提供します。
この研究では、強力な継続学習アルゴリズムである FSNet を、パンデミック中に世界で 2 番目に総ロックダウン期間が長かったオーストラリアのメルボルンにある 13 の複合ビルからの実世界データに適用しました。
この結果は、特に配電停止期間中の正確なエネルギー予測における継続的な学習の重要な役割を強調しています。
移動度や温度などの二次データは、一次予測モデルに補助的なサポートを提供しました。
さらに重要なことは、従来の手法はロックダウン中に適応するのに苦労しましたが、少なくともオンライン学習を特徴とするモデルは回復力を示し、適応学習技術を備えたロックダウン期間中の課題は少なくなりました。
この研究は、将来の配電停止期間中のエネルギー負荷予測を改善するための継続的な取り組みに貴重な方法論と洞察を提供します。
要約(オリジナル)
In traditional deep learning algorithms, one of the key assumptions is that the data distribution remains constant during both training and deployment. However, this assumption becomes problematic when faced with Out-of-Distribution periods, such as the COVID-19 lockdowns, where the data distribution significantly deviates from what the model has seen during training. This paper employs a two-fold strategy: utilizing continual learning techniques to update models with new data and harnessing human mobility data collected from privacy-preserving pedestrian counters located outside buildings. In contrast to online learning, which suffers from ‘catastrophic forgetting’ as newly acquired knowledge often erases prior information, continual learning offers a holistic approach by preserving past insights while integrating new data. This research applies FSNet, a powerful continual learning algorithm, to real-world data from 13 building complexes in Melbourne, Australia, a city which had the second longest total lockdown duration globally during the pandemic. Results underscore the crucial role of continual learning in accurate energy forecasting, particularly during Out-of-Distribution periods. Secondary data such as mobility and temperature provided ancillary support to the primary forecasting model. More importantly, while traditional methods struggled to adapt during lockdowns, models featuring at least online learning demonstrated resilience, with lockdown periods posing fewer challenges once armed with adaptive learning techniques. This study contributes valuable methodologies and insights to the ongoing effort to improve energy load forecasting during future Out-of-Distribution periods.
arxiv情報
著者 | Arian Prabowo,Kaixuan Chen,Hao Xue,Subbu Sethuvenkatraman,Flora D. Salim |
発行日 | 2023-09-08 12:36:49+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google