A Survey on Safe Multi-Modal Learning System

要約

急速に進化する人工知能の状況において、多様なモダリティ入力からの情報を処理および統合する機能として、マルチモーダル学習システム (MMLS) が注目を集めています。
医療などの重要な分野での使用の拡大により、安全性の確保が重大な懸念事項になっています。
しかし、その安全性に関する体系的な研究が存在しないことが、この分野の進歩に対する大きな障壁となっています。
このギャップを埋めるために、MMLS の安全性を体系的に分類および評価する最初の分類法を紹介します。
この分類法は、MMLS の安全性を確保するために重要な 4 つの基本的な柱 (堅牢性、整合性、監視、制御性) を中心に構成されています。
この分類法を活用して、既存の方法論、ベンチマーク、研究の現状をレビューするとともに、主な限界と知識のギャップを正確に特定します。
最後に、MMLS の安全性における特有の課題について説明します。
これらの課題を明らかにすることで、私たちは将来の研究への道を切り開き、MMLS の安全プロトコルの大幅な進歩につながる可能性のある方向性を提案することを目指しています。

要約(オリジナル)

In the rapidly evolving landscape of artificial intelligence, multimodal learning systems (MMLS) have gained traction for their ability to process and integrate information from diverse modality inputs. Their expanding use in vital sectors such as healthcare has made safety assurance a critical concern. However, the absence of systematic research into their safety is a significant barrier to progress in this field. To bridge the gap, we present the first taxonomy that systematically categorizes and assesses MMLS safety. This taxonomy is structured around four fundamental pillars that are critical to ensuring the safety of MMLS: robustness, alignment, monitoring, and controllability. Leveraging this taxonomy, we review existing methodologies, benchmarks, and the current state of research, while also pinpointing the principal limitations and gaps in knowledge. Finally, we discuss unique challenges in MMLS safety. In illuminating these challenges, we aim to pave the way for future research, proposing potential directions that could lead to significant advancements in the safety protocols of MMLS.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google