Expectation vs. Reality: Towards Verification of Psychological Games

要約

ゲーム理論は、合理的なエージェント間の戦略的相互作用をモデル化する効果的な方法を提供します。
正式な検証のコンテキストでは、これらのアイデアを使用して、コンピューター セキュリティから自動運転に至るまで、さまざまな範囲のアプリケーションでマルチエージェント システムの正確性を保証することができます。
心理ゲーム (PG) は、信念に依存した動機を持つエージェントをモデル化して分析する方法として開発され、人間の感情が行動にどのような影響を与えるかをモデル化する可​​能性を広げました。
PG では、プレイヤーのユーティリティは、実際に何が起こったか (プレイヤーが採用する戦略を選択する) だけでなく、プレイヤーが何が起こると予想していたか (プレイされる戦略についての信念) にも依存します。
経済学や心理学などの分野で多くの注目を集めているにもかかわらず、コンピューターサイエンスの問題への適用性や、実際のアルゴリズムやツールのサポートについてはほとんど考慮されていません。
この論文では、PG を解決する方法を提案し、それを確率的ゲームの正式な検証ツールである PRISM ゲーム内に実装することで、そのギャップを埋めることに着手します。
これらのゲームをモデル化する方法について説明し、その分析における具体的な課題を強調し、交通シナリオにおける人間の行動を含むいくつかのケーススタディに対するアプローチの有用性を説明します。

要約(オリジナル)

Game theory provides an effective way to model strategic interactions among rational agents. In the context of formal verification, these ideas can be used to produce guarantees on the correctness of multi-agent systems, with a diverse range of applications from computer security to autonomous driving. Psychological games (PGs) were developed as a way to model and analyse agents with belief-dependent motivations, opening up the possibility to model how human emotions can influence behaviour. In PGs, players’ utilities depend not only on what actually happens (which strategies players choose to adopt), but also on what the players had expected to happen (their belief as to the strategies that would be played). Despite receiving much attention in fields such as economics and psychology, very little consideration has been given to their applicability to problems in computer science, nor to practical algorithms and tool support. In this paper, we start to bridge that gap, proposing methods to solve PGs and implementing them within PRISM-games, a formal verification tool for stochastic games. We discuss how to model these games, highlight specific challenges for their analysis and illustrate the usefulness of our approach on several case studies, including human behaviour in traffic scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google