Combat AI With AI: Counteract Machine-Generated Fake Restaurant Reviews on Social Media

要約

【タイトル】SNS上の機械生成偽レストランレビューに対抗するAIを使用したAIの戦い

【要約】

– ジェネレーティブモデルの進歩により、GPTなどの価格の低い機械生成偽顧客レビューを生成することができるようになりました。これは、これらの機械生成偽レビューを検出するための社交メディアプラットフォームにとって課題を提供しています。
– Yelpによって検証された高品質の上位レストランレビューを活用して、OpenAI GPTレビュークリエーターから偽のレビューを生成し、最終的にGPT出力検出器を微調整して、既存の解決策を大幅に上回る偽のレビューを予測するように提案します。
– さらに、モデルを適用して非上位レビューを予測し、レビュー、ユーザー、レストランの特性、およびライティングスタイルなど、いくつかの次元をまたいでパターンを特定します。
– 社交メディアプラットフォームは、怪しいレビューをフィルタリングする検出システムを実装することができますが、機械生成偽レビューにより常に挑戦を受けていることを示します。

要約(オリジナル)

Recent advances in generative models such as GPT may be used to fabricate indistinguishable fake customer reviews at a much lower cost, thus posing challenges for social media platforms to detect these machine-generated fake reviews. We propose to leverage the high-quality elite restaurant reviews verified by Yelp to generate fake reviews from the OpenAI GPT review creator and ultimately fine-tune a GPT output detector to predict fake reviews that significantly outperform existing solutions. We further apply the model to predict non-elite reviews and identify the patterns across several dimensions, such as review, user and restaurant characteristics, and writing style. We show that social media platforms are continuously challenged by machine-generated fake reviews, although they may implement detection systems to filter out suspicious reviews.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI