Combat AI With AI: Counteract Machine-Generated Fake Restaurant Reviews on Social Media

要約

タイトル：AIでAIを撃退：ソーシャルメディア上での機械生成偽レストランレビューとの戦い

要約：
– GPTなどの生成モデルの最近の進歩により、低コストで見分けがつかない偽の顧客レビューが作成されることがある。
– そのため、ソーシャルメディアプラットフォームはこれらの機械生成偽レビューを検出することに課題がある。
– Yelpによって検証された高品質のエリートレストランレビューを活用し、OpenAI GPTレビュークリエーターから偽のレビューを生成し、最終的にGPT出力検出器を微調整して、既存の解決策を大幅に上回る偽のレビューを予測することを提案する。
– さらに、モデルを非エリートレビューを予測するために適用し、レビュー、ユーザー、レストラン特性、そしてライティングスタイルなどのいくつかの次元でパターンを特定する。
– ソーシャルメディアプラットフォームは、疑わしいレビューをフィルタリングする検出システムを実装している場合でも、機械生成偽レビューによって常に挑戦されていることが示される。

要約(オリジナル)

Recent advances in generative models such as GPT may be used to fabricate indistinguishable fake customer reviews at a much lower cost, thus posing challenges for social media platforms to detect these machine-generated fake reviews. We propose to leverage the high-quality elite restaurant reviews verified by Yelp to generate fake reviews from the OpenAI GPT review creator and ultimately fine-tune a GPT output detector to predict fake reviews that significantly outperform existing solutions. We further apply the model to predict non-elite reviews and identify the patterns across several dimensions, such as review, user and restaurant characteristics, and writing style. We show that social media platforms are continuously challenged by machine-generated fake reviews, although they may implement detection systems to filter out suspicious reviews.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI