Contestable AI needs Computational Argumentation

要約

AI は近年普及してきましたが、最先端のアプローチでは、AI システムが競争可能である必要性が主に無視されています。
代わりに、AI ガイドライン (OECD など) や自動化された意思決定の規制 (GDPR など) によって、争奪性が提唱されています。
このポジションペーパーでは、AI 内および AI に関して、コンテスタビリティを計算的にどのように達成できるかを検討します。
私たちは、競合する AI には動的な (人間対機械および/または機械対機械) 説明可能性と意思決定プロセスが必要であると主張します。これにより、機械は (i) 人間および/または他の機械と対話して、その出力および/またはその推論を段階的に説明できるようになります。
また、これらの人間や他の機械が提供する論争の根拠を評価し、(ii) 論争中に提起された問題を修正するために意思決定プロセスを修正します。
現在の AI 環境の多くが静的 AI に合わせて調整されていることを考えると、競合可能性に対応するには抜本的な再考が必要であり、計算による議論はサポートに最適であると私たちは主張します。

要約(オリジナル)

AI has become pervasive in recent years, but state-of-the-art approaches predominantly neglect the need for AI systems to be contestable. Instead, contestability is advocated by AI guidelines (e.g. by the OECD) and regulation of automated decision-making (e.g. GDPR). In this position paper we explore how contestability can be achieved computationally in and for AI. We argue that contestable AI requires dynamic (human-machine and/or machine-machine) explainability and decision-making processes, whereby machines can (i) interact with humans and/or other machines to progressively explain their outputs and/or their reasoning as well as assess grounds for contestation provided by these humans and/or other machines, and (ii) revise their decision-making processes to redress any issues successfully raised during contestation. Given that much of the current AI landscape is tailored to static AIs, the need to accommodate contestability will require a radical rethinking, that, we argue, computational argumentation is ideally suited to support.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google