HiQ — A Declarative, Non-intrusive, Dynamic and Transparent Observability and Optimization System

要約

タイトル:HiQ-宣言的、非侵襲的、動的かつ透明な観測および最適化システム

要約:
– 非侵襲的、宣言的、動的、透明なシステムであるHiQを提案する。
– HiQはランタイムシステムのパフォーマンスを損なうことなく、Pythonプログラムのランタイム情報をトラックすることができる。
– HiQは、単一体および分散システム、オフラインおよびオンラインアプリケーションに使用できる。
– HiQは、Pythonで書かれた大きなディープニューラルネットワーク(DNN)モデルを最適化する際に開発されたが、Javaなど他の言語やPythonプログラム、分散システムにも一般化できる。
– HiQは、プロダクションコードをクリーンで高性能に保ちながら、私たちのディープラーニングモデルライフサイクル管理システムに採用され、ボトルネックをキャッチするために使用されている。
– 実装はオープンソースであり、以下の場所で利用可能:[https://github.com/oracle/hiq](https://github.com/oracle/hiq)。

要約(オリジナル)

This paper proposes a non-intrusive, declarative, dynamic and transparent system called `HiQ` to track Python program runtime information without compromising on the run-time system performance and losing insight. HiQ can be used for monolithic and distributed systems, offline and online applications. HiQ is developed when we optimize our large deep neural network (DNN) models which are written in Python, but it can be generalized to any Python program or distributed system, or even other languages like Java. We have implemented the system and adopted it in our deep learning model life cycle management system to catch the bottleneck while keeping our production code clean and highly performant. The implementation is open-sourced at: [https://github.com/oracle/hiq](https://github.com/oracle/hiq).

arxiv情報

著者 Fuheng Wu,Ivan Davchev,Jun Qian
発行日 2023-04-26 06:11:26+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, OpenAI

カテゴリー: cs.AI, cs.DC, cs.LG, cs.PF パーマリンク