Unleashing the potential of prompt engineering: a comprehensive review

要約

この包括的なレビューでは、大規模言語モデル (LLM) とマルチモーダル言語モデル (MMLM) の領域内でのプロンプト エンジニアリングの変革の可能性を探ります。
1950 年代の始まりからニューラル ネットワークやディープ ラーニング アーキテクチャの出現に至るまでの AI の開発は、GPT-4 や BERT などの高度な LLM、DALL-E や CLIP などの MMLM で頂点に達しました。
これらのモデルは、職場の自動化、医療、教育などのさまざまな分野の業務に革命をもたらしました。
迅速なエンジニアリングは、これらのモデルの実用性と精度を最大化するための重要な技術として浮上しています。
このペーパーでは、モデルのパフォーマンスを大幅に向上させる思考連鎖、自己一貫性、生成された知識などのテクニックを含む、プロンプト エンジニアリングの基礎的な方法論と高度な方法論の両方について詳しく説明します。
さらに、マルチモーダル プロンプト学習 (MaPLe)、条件付きプロンプト学習、コンテキスト最適化などの革新的なアプローチを通じてマルチモーダル データの統合を検証します。
この議論にとって重要なのは、AI セキュリティの側面、特にプロンプ​​ト エンジニアリングの脆弱性を悪用する敵対的攻撃です。
これらのリスクを軽減し、モデルの堅牢性を高めるための戦略が徹底的にレビューされます。
プロンプト手法の評価は、主観的指標と客観的指標の両方を通じて対処され、その有効性の確実な分析が保証されます。
このレビューは、AI 機能の進歩におけるプロンプト エンジニアリングの極めて重要な役割を強調し、将来の研究と応用のための構造化されたフレームワークを提供します。

要約(オリジナル)

This comprehensive review explores the transformative potential of prompt engineering within the realm of large language models (LLMs) and multimodal language models (MMLMs). The development of AI, from its inception in the 1950s to the emergence of neural networks and deep learning architectures, has culminated in sophisticated LLMs like GPT-4 and BERT, as well as MMLMs like DALL-E and CLIP. These models have revolutionized tasks in diverse fields such as workplace automation, healthcare, and education. Prompt engineering emerges as a crucial technique to maximize the utility and accuracy of these models. This paper delves into both foundational and advanced methodologies of prompt engineering, including techniques like Chain of Thought, Self-consistency, and Generated Knowledge, which significantly enhance model performance. Additionally, it examines the integration of multimodal data through innovative approaches such as Multi-modal Prompt Learning (MaPLe), Conditional Prompt Learning, and Context Optimization. Critical to this discussion is the aspect of AI security, particularly adversarial attacks that exploit vulnerabilities in prompt engineering. Strategies to mitigate these risks and enhance model robustness are thoroughly reviewed. The evaluation of prompt methods is addressed through both subjective and objective metrics, ensuring a robust analysis of their efficacy. This review underscores the pivotal role of prompt engineering in advancing AI capabilities, providing a structured framework for future research and application.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google