Negation Blindness in Large Language Models: Unveiling the NO Syndrome in Image Generation

要約

Foundational Large Language Model (LLM) は、テクノロジーに対する私たちの認識を変えました。
彼らは、詩の執筆やコーディングからエッセイの作成やパズルの解決に至るまで、さまざまなタスクに優れていることが示されています。
画像生成機能の組み込みにより、より包括的で多用途な AI ツールになりました。
同時に、研究者たちは、これらのツールをさらに改善するために、これらのツールの限界を特定しようと努めています。
現在確認されている欠陥には、幻覚、偏見、有害なコンテンツを生成する制限付きコマンドの回避などが含まれます。
本研究では、LLM の画像生成能力に関連する根本的な制限を特定し、それを NO 症候群と名付けました。
この否定盲目とは、LLM が目的の画像を生成するための自然言語プロンプトに関連するものを正しく理解できないことを指します。
興味深いことに、GPT-4、Gemini、Copilot を含むすべてのテストされた LLM がこの症候群に苦しんでいることが判明しました。
この制限の一般化を実証するために、英語、ヒンディー語、フランス語を含む複数の言語で、さまざまな LLM に対してシミュレーション実験を実行し、エントロピー ベースのベンチマーク統計分析テストを実施しました。
私たちは、NO 症候群は現在の LLM の重大な欠陥であり、対処する必要があると結論付けています。
この研究に関連する調査結果では、この NO 症候群の結果として、画像とテキストの応答の間に一貫した矛盾があることが示されました。
LLM のテキスト応答と生成された画像の間に否定コンテキスト認識強化学習ベースのフィードバック ループを導入すると、生成されたテキストが、LLM による否定クエリの正しいコンテキスト理解と生成された視覚出力の両方に基づいていることを保証できる可能性があると考えられます。

要約(オリジナル)

Foundational Large Language Models (LLMs) have changed the way we perceive technology. They have been shown to excel in tasks ranging from poem writing and coding to essay generation and puzzle solving. With the incorporation of image generation capability, they have become more comprehensive and versatile AI tools. At the same time, researchers are striving to identify the limitations of these tools to improve them further. Currently identified flaws include hallucination, biases, and bypassing restricted commands to generate harmful content. In the present work, we have identified a fundamental limitation related to the image generation ability of LLMs, and termed it The NO Syndrome. This negation blindness refers to LLMs inability to correctly comprehend NO related natural language prompts to generate the desired images. Interestingly, all tested LLMs including GPT-4, Gemini, and Copilot were found to be suffering from this syndrome. To demonstrate the generalization of this limitation, we carried out simulation experiments and conducted entropy-based and benchmark statistical analysis tests on various LLMs in multiple languages, including English, Hindi, and French. We conclude that the NO syndrome is a significant flaw in current LLMs that needs to be addressed. A related finding of this study showed a consistent discrepancy between image and textual responses as a result of this NO syndrome. We posit that the introduction of a negation context-aware reinforcement learning based feedback loop between the LLMs textual response and generated image could help ensure the generated text is based on both the LLMs correct contextual understanding of the negation query and the generated visual output.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google