African Democracy in the Era of Generative Disinformation: Challenges and Countermeasures against AI-Generated Propaganda

要約

生成型 AI の悪影響に関する著名な言説を踏まえ、AI が生成するプロパガンダが選挙に参加するアフリカ国民に及ぼす現在および推定される影響を調査する新たな研究領域が生まれています。
アフリカ全土では、ナイジェリア、ブルキナファソ、ガボンなどの国で、AIが生成したプロパガンダが選挙結果に影響を与えたり、クーデターを引き起こしたりした疑いのある事例がすでに存在しており、この分野における包括的な研究の必要性が浮き彫りになっている。
この論文は、AI の責任ある開発、実用化、堅牢なガバナンスにおける政府、市民社会、学術界、一般大衆の役割を同時に検討しながら、アフリカ国内での生成型 AI 主導の偽情報の拡散に関連するリスクを強調することを目的としています。
AI が生成するプロパガンダの影響にアフリカ政府がどのように効果的に対抗できるかを理解するために、この論文では、アフリカにおける選挙関連のプロパガンダにおける生成 AI の現在の使用法を示す事例研究を紹介します。
続いて、この論文は、偽情報の悪影響を軽減するための事実確認組織による取り組みについて議論し、偽情報の拡散と闘う読み書きの取り組みに国民を積極的に参加させる新たな取り組みの可能性を探り、政府の規制措置の強化を主張します。
全体として、この研究は、AI が生成するプロパガンダがアフリカ国内の民主主義プロセスに及ぼす潜在的な影響について理解を深め、利害関係者がこれらの多面的な課題に対処するための実行可能な戦略を提案することを目的としています。

要約(オリジナル)

In light of prominent discourse around the negative implications of generative AI, an emerging area of research is investigating the current and estimated impacts of AI-generated propaganda on African citizens participating in elections. Throughout Africa, there have already been suspected cases of AI-generated propaganda influencing electoral outcomes or precipitating coups in countries like Nigeria, Burkina Faso, and Gabon, underscoring the need for comprehensive research in this domain. This paper aims to highlight the risks associated with the spread of generative AI-driven disinformation within Africa while concurrently examining the roles of government, civil society, academia, and the general public in the responsible development, practical use, and robust governance of AI. To understand how African governments might effectively counteract the impact of AI-generated propaganda, this paper presents case studies illustrating the current usage of generative AI for election-related propaganda in Africa. Subsequently, this paper discusses efforts by fact-checking organisations to mitigate the negative impacts of disinformation, explores the potential for new initiatives to actively engage citizens in literacy efforts to combat disinformation spread, and advocates for increased governmental regulatory measures. Overall, this research seeks to increase comprehension of the potential ramifications of AI-generated propaganda on democratic processes within Africa and propose actionable strategies for stakeholders to address these multifaceted challenges.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google