A Multitask, Multilingual, Multimodal Evaluation of ChatGPT on Reasoning, Hallucination, and Interactivity

要約

この論文では、公開されているデータセットを使用して、ChatGPT などのインタラクティブ LLM を定量的に評価するためのフレームワークを提案します。
私たちは、8 つの異なる一般的な NLP アプリケーション タスクをカバーする 23 のデータ セットを使用して、ChatGPT の広範な技術評価を実行します。
これらのデータセットと新しく設計されたマルチモーダル データセットに基づいて、ChatGPT のマルチタスク、多言語、マルチモーダルの側面を評価します。
ChatGPT は、ほとんどのタスクでゼロショット学習で LLM よりも優れたパフォーマンスを発揮し、一部のタスクでは微調整されたモデルよりも優れたパフォーマンスを発揮することがわかりました。
非ラテン文字言語を生成するよりも、それを理解する方が優れていることがわかりました。
中間コード生成ステップを介して、テキスト プロンプトからマルチモーダル コンテンツを生成できます。
さらに、ChatGPT は、論理的推論、非テキスト推論、常識的推論の 10 の異なる推論カテゴリで平均 63.41% の精度であることがわかり、信頼性の低い推論器となっています。
たとえば、帰納的推論よりも演繹的推論の方が得意です。
ChatGPT は他の LLM と同様に幻覚の問題に悩まされており、外部の知識ベースにアクセスできないため、パラメトリック メモリからより多くの外因性幻覚を生成します。
最後に、ChatGPT のインタラクティブ機能により、基礎となる LLM との人間のコラボレーションが可能になり、マルチターンの「プロンプト エンジニアリング」方式で、要約で ROUGE-1 が 8%、機械翻訳で ChrF++ が 2% というパフォーマンス向上が可能になります。
評価セット抽出用のコードベースもリリースします。

要約(オリジナル)

This paper proposes a framework for quantitatively evaluating interactive LLMs such as ChatGPT using publicly available data sets. We carry out an extensive technical evaluation of ChatGPT using 23 data sets covering 8 different common NLP application tasks. We evaluate the multitask, multilingual and multi-modal aspects of ChatGPT based on these data sets and a newly designed multimodal dataset. We find that ChatGPT outperforms LLMs with zero-shot learning on most tasks and even outperforms fine-tuned models on some tasks. We find that it is better at understanding non-Latin script languages than generating them. It is able to generate multimodal content from textual prompts, via an intermediate code generation step. Moreover, we find that ChatGPT is 63.41% accurate on average in 10 different reasoning categories under logical reasoning, non-textual reasoning, and commonsense reasoning, hence making it an unreliable reasoner. It is, for example, better at deductive than inductive reasoning. ChatGPT suffers from hallucination problems like other LLMs and it generates more extrinsic hallucinations from its parametric memory as it does not have access to an external knowledge base. Finally, the interactive feature of ChatGPT enables human collaboration with the underlying LLM to improve its performance, i.e, 8% ROUGE-1 on summarization and 2% ChrF++ on machine translation, in a multi-turn ‘prompt engineering’ fashion. We also release codebase for evaluation set extraction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google