Language Models Can Reduce Asymmetry in Information Markets

要約

この研究は、情報市場における購入者の検査のパラドックスに対処します。
矛盾しているのは、買い手はその価値を判断するために情報にアクセスする必要があるのに対し、売り手は盗難を防ぐためにアクセスを制限する必要があるということです。
これを研究するために、言語モデルを利用したインテリジェントなエージェントが外部参加者に代わって情報を売買する、オープンソースの模擬デジタル マーケットプレイスを導入します。
このマーケットプレイスを可能にする中心的なメカニズムは、エージェントの二重の機能です。エージェントは、特権情報の品質を評価する能力だけでなく、忘れる能力も備えています。
この記憶喪失を誘発する機能により、ベンダーは機密情報への一時的なアクセスを許可できるため、不正な保持のリスクが大幅に軽減され、エージェントは特定のクエリやタスクに対する情報の関連性を正確に評価できるようになります。
適切なパフォーマンスを発揮するには、エージェントが合理的な意思決定を行い、生成されたサブクエリを通じて戦略的に市場を探索し、購入した情報から回答を総合する必要があります。
具体的には、私たちの実験では、(a) 非合理的な行動につながる言語モデルのバイアスを明らかにし、これらのバイアスを軽減する手法を評価し、(b) 情報商品の文脈において価格が需要にどのような影響を与えるかを調査し、(c) 検査とより高い予算の両方が重要であることを示しています。
より質の高い成果につながります。

要約(オリジナル)

This work addresses the buyer’s inspection paradox for information markets. The paradox is that buyers need to access information to determine its value, while sellers need to limit access to prevent theft. To study this, we introduce an open-source simulated digital marketplace where intelligent agents, powered by language models, buy and sell information on behalf of external participants. The central mechanism enabling this marketplace is the agents’ dual capabilities: they not only have the capacity to assess the quality of privileged information but also come equipped with the ability to forget. This ability to induce amnesia allows vendors to grant temporary access to proprietary information, significantly reducing the risk of unauthorized retention while enabling agents to accurately gauge the information’s relevance to specific queries or tasks. To perform well, agents must make rational decisions, strategically explore the marketplace through generated sub-queries, and synthesize answers from purchased information. Concretely, our experiments (a) uncover biases in language models leading to irrational behavior and evaluate techniques to mitigate these biases, (b) investigate how price affects demand in the context of informational goods, and (c) show that inspection and higher budgets both lead to higher quality outcomes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google