Trust AI Regulation? Discerning users are vital to build trust and effective AI regulation

要約

AI 作成者が信頼できるシステムを開発するよう奨励されるためにも、ユーザーがそれらのシステムを実際に信頼するためにも、何らかの形の規制が必要であるということについては、一般的に同意されています。
しかし、これらの規制がどのような形を取るべきか、またどのように実施されるべきかについては多くの議論があります。
この分野におけるほとんどの研究は定性的なものであり、正式な予測を行うことはできませんでした。
ここでは、進化的ゲーム理論を使用して、ユーザー、AI 作成者、規制当局が直面するジレンマを定量的にモデル化し、さまざまな規制体制の考えられる影響についての洞察を提供できることを提案します。
私たちは、信頼できる AI とユーザーの信頼を生み出すには、規制当局が効果的に規制するよう動機付けられる必要があることを示しています。
これを達成できる 2 つのメカニズムの有効性を実証します。
1 つ目は、政府が良い仕事をした規制当局を評価し、報酬を与えることができるところです。
その場合、AI システムがユーザーにとってそれほどリスクがなければ、ある程度の信頼できる開発とユーザーの信頼が進化します。
次に、ユーザーが規制当局の有効性に基づいて信頼の決定を条件にできる代替ソリューションを検討します。
これは、規制の導入コストが高すぎない限り、効果的な規制につながり、その結果、信頼できる AI の開発とユーザーの信頼につながります。
私たちの調査結果は、進化ゲーム理論の観点からさまざまな規制体制の影響を考慮することの重要性を強調しています。

要約(オリジナル)

There is general agreement that some form of regulation is necessary both for AI creators to be incentivised to develop trustworthy systems, and for users to actually trust those systems. But there is much debate about what form these regulations should take and how they should be implemented. Most work in this area has been qualitative, and has not been able to make formal predictions. Here, we propose that evolutionary game theory can be used to quantitatively model the dilemmas faced by users, AI creators, and regulators, and provide insights into the possible effects of different regulatory regimes. We show that creating trustworthy AI and user trust requires regulators to be incentivised to regulate effectively. We demonstrate the effectiveness of two mechanisms that can achieve this. The first is where governments can recognise and reward regulators that do a good job. In that case, if the AI system is not too risky for users then some level of trustworthy development and user trust evolves. We then consider an alternative solution, where users can condition their trust decision on the effectiveness of the regulators. This leads to effective regulation, and consequently the development of trustworthy AI and user trust, provided that the cost of implementing regulations is not too high. Our findings highlight the importance of considering the effect of different regulatory regimes from an evolutionary game theoretic perspective.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google