The dynamics of belief: continuously monitoring and visualising complex systems

要約

人間の状況における AI の台頭により、自動化システムには透明性と説明可能性が新たに求められています。
私たちは、複雑な人間の状況におけるデジタルシステムとその行動を説明する問題について考えるための理論的枠組みを開発するために、そのような責任に関連するいくつかの擬人化されたアイデアと原則を検討します。
構造的には、システムはモジュール式および階層的なコンポーネントで構成されており、モードとモード遷移の概念を使用して新しいシステム モデルで抽象化します。
モードは、独自の目的、監視データ、およびアルゴリズムを備えたシステムの独立したコンポーネントです。
他のモードへの移行を含むモードの動作は、その目的とアルゴリズムに照らして各モードの監視データを解釈する関数によって決定されます。
これらの信念関数の評価を高次元の幾何学的空間の軌跡として視覚化することで、システムの動作の説明にこれらの信念関数がどのように役立つかを示します。
これらのアイデアは、抽象的および具体的な単純複合体によって数学的に形式化されます。
私たちは、デザインヒューリスティックのフレームワーク、モードに基づく一般システム理論、幾何学的ビジュアライゼーションの 3 つの手法を提供し、それらを 3 種類の人間中心のシステムに適用します。

要約(オリジナル)

The rise of AI in human contexts places new demands on automated systems to be transparent and explainable. We examine some anthropomorphic ideas and principles relevant to such accountablity in order to develop a theoretical framework for thinking about digital systems in complex human contexts and the problem of explaining their behaviour. Structurally, systems are made of modular and hierachical components, which we abstract in a new system model using notions of modes and mode transitions. A mode is an independent component of the system with its own objectives, monitoring data, and algorithms. The behaviour of a mode, including its transitions to other modes, is determined by functions that interpret each mode’s monitoring data in the light of its objectives and algorithms. We show how these belief functions can help explain system behaviour by visualising their evaluation as trajectories in higher-dimensional geometric spaces. These ideas are formalised mathematically by abstract and concrete simplicial complexes. We offer three techniques: a framework for design heuristics, a general system theory based on modes, and a geometric visualisation, and apply them in three types of human-centred systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google