ML-On-Rails: Safeguarding Machine Learning Models in Software Systems A Case Study

要約

機械学習 (ML)、特に大規模言語モデル (LLM) の出現により、さまざまな業界が大きく変わりました。
ただし、ソフトウェア システム内での ML モデルのプロトタイピングから本番使用への移行には、いくつかの課題が伴います。
これらの課題は主に安全性、セキュリティ、透明性の確保を中心としており、その後、ML モデルの全体的な堅牢性と信頼性に影響を与えます。
このペーパーでは、ML モデルを保護し、さまざまな ML タスク用に明確に定義されたエンドポイント インターフェイスを確立し、ML プロバイダーと ML コンシューマー (ソフトウェア エンジニア) 間の明確な通信を確立するために設計されたプロトコルである ML-On-Rails を紹介します。
ML-On-Rails は、実稼働 ML に特有の固有の課題を特定する検出機能を組み込むことで、ML モデルの堅牢性を強化します。
私たちは、MoveReminder アプリケーションの実世界のケーススタディを通じて ML-On-Rails プロトコルを評価しました。
この評価を通じて、実稼働環境で ML モデルを保護することの重要性を強調します。

要約(オリジナル)

Machine learning (ML), especially with the emergence of large language models (LLMs), has significantly transformed various industries. However, the transition from ML model prototyping to production use within software systems presents several challenges. These challenges primarily revolve around ensuring safety, security, and transparency, subsequently influencing the overall robustness and trustworthiness of ML models. In this paper, we introduce ML-On-Rails, a protocol designed to safeguard ML models, establish a well-defined endpoint interface for different ML tasks, and clear communication between ML providers and ML consumers (software engineers). ML-On-Rails enhances the robustness of ML models via incorporating detection capabilities to identify unique challenges specific to production ML. We evaluated the ML-On-Rails protocol through a real-world case study of the MoveReminder application. Through this evaluation, we emphasize the importance of safeguarding ML models in production.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google