The Influencer Next Door: How Misinformation Creators Use GenAI

要約

生成 AI (GenAI) の進歩により、人間が生成したコンテンツから AI が生成したコンテンツの検出と識別についての懸念が生じています。
既存の文献のほとんどは、「専門家」が組織化した偽情報作成者と欠陥のある AI モデルが「一般の」ユーザーを騙すというパラダイムを想定しています。
2022年から2023年にかけて誤った情報の作成者と消費者を対象とした縦断的な民族誌調査に基づくと、代わりにGenAIがブリコラージュ作業をサポートしていることがわかりました。ブリコラージュ作業では、専門家以外の人々が個人のニーズや欲求を満たすためにコンテンツをリミックス、再パッケージ化し、（再）制作するためにGenAIをますます使用しています。
この調査では 4 つの重要な発見が得られました。 まず、参加者は真実の探求ではなく、主に創造のために GenAI を使用しました。
第 2 に、「インフルエンサー億万長者」という物語が広まったことで、参加者がコンテンツ クリエイターになるよう駆り立てられ、GenAI を生産性ツールとして使用して、大量の (多くの場合誤った情報を含む) コンテンツを生成しました。
第三に、GenAI はさまざまなモダリティにわたるコンテンツ作成の参入障壁を下げ、消費者をクリエイターになるように促し、既存のクリエイターの生産量を大幅に増加させました。
最後に、参加者は Gen AI を使用して、エンゲージメントを拡大し、コンテンツを収益化するためのマーケティング戦略を学習および展開しました。
私たちは、分析の対象を、AI コンテンツの消費者としての一般大衆から、多くの場合、その基盤となるテクノロジーを詳細に理解せずに GenAI を創造的に使用するブリコルールに移行することを主張します。
私たちは、これらの十分に研究されていない GenAI の新たな使用法がどのように新たな、または加速する誤報被害を生み出すのか、またそれらが AI 製品、プラットフォーム、政策に与える影響を分析します。

要約(オリジナル)

Advances in generative AI (GenAI) have raised concerns about detecting and discerning AI-generated content from human-generated content. Most existing literature assumes a paradigm where ‘expert’ organized disinformation creators and flawed AI models deceive ‘ordinary’ users. Based on longitudinal ethnographic research with misinformation creators and consumers between 2022-2023, we instead find that GenAI supports bricolage work, where non-experts increasingly use GenAI to remix, repackage, and (re)produce content to meet their personal needs and desires. This research yielded four key findings: First, participants primarily used GenAI for creation, rather than truth-seeking. Second, a spreading ‘influencer millionaire’ narrative drove participants to become content creators, using GenAI as a productivity tool to generate a volume of (often misinformative) content. Third, GenAI lowered the barrier to entry for content creation across modalities, enticing consumers to become creators and significantly increasing existing creators’ output. Finally, participants used Gen AI to learn and deploy marketing tactics to expand engagement and monetize their content. We argue for shifting analysis from the public as consumers of AI content to bricoleurs who use GenAI creatively, often without a detailed understanding of its underlying technology. We analyze how these understudied emergent uses of GenAI produce new or accelerated misinformation harms, and their implications for AI products, platforms and policies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google