Rubik’s Optical Neural Networks: Multi-task Learning with Physics-aware Rotation Architecture

要約

【タイトル】Rubik’s Optical Neural Networks: Multi-task Learning with Physics-aware Rotation Architecture

【要約】

– Optical Neural Networks (ONNs)の進歩に注目が集まっている
– ONNsは、パワーエフィシエンシー、並列処理、計算速度という点で、機械学習（ML）に重要な利点をもたらす
– 計算速度とエネルギー効率の利点により、ONNsは、医療センシング、セキュリティスクリーニング、薬剤検出、自律走行に活用される可能性がある
– しかし、再構成可能性の課題により、MTLアルゴリズムをONNs上で展開するには、物理的な回折システムの再構築と複製が必要であり、実用的な応用シナリオにおいてエネルギーとコスト効率が著しく低下する
– この研究では、物理学的な性質を活用して、回転する「Rubik’s Cube」のようにハードウェアを回転させることで、複数のフィードフォワード関数をエンコードする新しいONNsアーキテクチャ「RubikONNs」を提案する
– RubikONNs上でMTLのパフォーマンスを最適化するために、2つのドメイン特化型の物理学に基づくトレーニングアルゴリズム「RotAgg」と「RotSeq」を提案する
– 実験結果によると、従来の手法に比べて、精度の低下がわずかな状態で、エネルギーとコスト効率が4倍以上向上したことが示された

要約(オリジナル)

Recently, there are increasing efforts on advancing optical neural networks (ONNs), which bring significant advantages for machine learning (ML) in terms of power efficiency, parallelism, and computational speed. With the considerable benefits in computation speed and energy efficiency, there are significant interests in leveraging ONNs into medical sensing, security screening, drug detection, and autonomous driving. However, due to the challenge of implementing reconfigurability, deploying multi-task learning (MTL) algorithms on ONNs requires re-building and duplicating the physical diffractive systems, which significantly degrades the energy and cost efficiency in practical application scenarios. This work presents a novel ONNs architecture, namely, \textit{RubikONNs}, which utilizes the physical properties of optical systems to encode multiple feed-forward functions by physically rotating the hardware similarly to rotating a \textit{Rubik’s Cube}. To optimize MTL performance on RubikONNs, two domain-specific physics-aware training algorithms \textit{RotAgg} and \textit{RotSeq} are proposed. Our experimental results demonstrate more than 4$\times$ improvements in energy and cost efficiency with marginal accuracy degradation compared to the state-of-the-art approaches.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI