Manipulating Large Language Models to Increase Product Visibility

要約

大規模な言語モデル（LLM）は、ユーザーのクエリに合わせた自然な言語応答を提供するために、検索エンジンに統合されるようになってきている。顧客やエンドユーザーもまた、迅速かつ容易な購入決定のために、これらのモデルに依存するようになってきている。この研究では、LLMからのレコメンデーションを操作して、商品の認知度を高めることができるかどうかを調査する。われわれは、戦略的テキストシーケンス（STS）–注意深く作られたメッセージ–を商品情報ページに追加することで、LLMのトップ・レコメンデーションとして掲載される可能性が大幅に高まることを実証する。STSの影響を理解するために、架空のコーヒーメーカーのカタログを使用し、LLMのレコメンデーションにめったに掲載されない商品と、通常2位に掲載される商品の2つのターゲット商品に対するSTSの効果を分析する。その結果、戦略的テキスト配列は、両商品の知名度を大幅に向上させ、上位に表示される確率を高めていることがわかった。LLMが生成した検索応答を操作するこの能力は、ベンダーにかなりの競争上の優位性をもたらし、公正な市場競争を混乱させる可能性がある。検索エンジン最適化（SEO）が、検索エンジンの検索結果で上位に表示されるようにウェブページをカスタマイズする方法に革命を起こしたように、LLMのレコメンデーションに影響を与えることは、AI主導の検索サービスのコンテンツ最適化に大きな影響を与える可能性がある。実験のコードはhttps://github.com/aounon/llm-rank-optimizer。

要約(オリジナル)

Large language models (LLMs) are increasingly being integrated into search engines to provide natural language responses tailored to user queries. Customers and end-users are also becoming more dependent on these models for quick and easy purchase decisions. In this work, we investigate whether recommendations from LLMs can be manipulated to enhance a product’s visibility. We demonstrate that adding a strategic text sequence (STS) — a carefully crafted message — to a product’s information page can significantly increase its likelihood of being listed as the LLM’s top recommendation. To understand the impact of STS, we use a catalog of fictitious coffee machines and analyze its effect on two target products: one that seldom appears in the LLM’s recommendations and another that usually ranks second. We observe that the strategic text sequence significantly enhances the visibility of both products by increasing their chances of appearing as the top recommendation. This ability to manipulate LLM-generated search responses provides vendors with a considerable competitive advantage and has the potential to disrupt fair market competition. Just as search engine optimization (SEO) revolutionized how webpages are customized to rank higher in search engine results, influencing LLM recommendations could profoundly impact content optimization for AI-driven search services. Code for our experiments is available at https://github.com/aounon/llm-rank-optimizer.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL