Cooperative Resilience in Artificial Intelligence Multiagent Systems

要約

復元力とは、システムが破壊的なイベントに耐え、適応し、回復する能力を指します。
レジリエンスに関する研究はさまざまな研究分野で大きな注目を集めていますが、協調型人工知能の分野におけるこの概念の正確な定義は依然として不明です。
この論文は、「協力的レジリエンス」の明確な定義を提案し、その定量的測定の方法論を概説することによって、このギャップに対処します。
この方法論は、環境の変化や持続不可能な動作を持つエージェントの導入にさらされた、RL ベースおよび LLM で強化された自律エージェントを備えた環境で検証されています。
これらのイベントはパラメータ化されて、協力的な回復力を測定するためのさまざまなシナリオを作成します。
この結果は、集団システムが混乱に直面してどのように準備し、抵抗し、そこから回復し、幸福を維持し、変革するかを分析する際のレジリエンス指標の重要な役割を浮き彫りにしています。
これらの発見は、協力レジリエンスの定義、測定、予備分析に関する基礎的な洞察を提供し、AI のより広範な分野に重要な意味をもたらします。
さらに、ここで開発された方法論と指標は幅広い AI アプリケーションに適用でき、動的で予測不可能な環境における AI の信頼性と有効性が向上します。

要約(オリジナル)

Resilience refers to the ability of systems to withstand, adapt to, and recover from disruptive events. While studies on resilience have attracted significant attention across various research domains, the precise definition of this concept within the field of cooperative artificial intelligence remains unclear. This paper addresses this gap by proposing a clear definition of `cooperative resilience’ and outlining a methodology for its quantitative measurement. The methodology is validated in an environment with RL-based and LLM-augmented autonomous agents, subjected to environmental changes and the introduction of agents with unsustainable behaviors. These events are parameterized to create various scenarios for measuring cooperative resilience. The results highlight the crucial role of resilience metrics in analyzing how the collective system prepares for, resists, recovers from, sustains well-being, and transforms in the face of disruptions. These findings provide foundational insights into the definition, measurement, and preliminary analysis of cooperative resilience, offering significant implications for the broader field of AI. Moreover, the methodology and metrics developed here can be adapted to a wide range of AI applications, enhancing the reliability and effectiveness of AI in dynamic and unpredictable environments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google