要約
この研究論文では、標準化されたテスト問題に対処する際の、Bing、ChatGPT、GPT-4 という 3 つの人工知能チャットボットのパフォーマンスの包括的な評価を示しています。
GRE として知られる卒業記録試験は、この論文のケーススタディとして機能し、定量的推論と言語スキルの両方を含みます。
チャットボットの能力を評価するために、さまざまなスタイルの計 137 問の定量的推論問題と、さまざまな難易度 (簡単、中程度、難しい) に分類された 157 問の言語的質問が実施されました。
このペーパーでは、試験でテストされたさまざまなスキルとスタイルにわたる各チャットボットのパフォーマンスを提示することにより、標準化された試験準備における人工知能の利用に対する結果とその影響について詳細に検討します。
さらに、この論文では、画像ベースの質問に対処する人工知能の習熟度を調査し、各チャットボットの不確実性レベルを示します。
結果は、チャットボット全体でさまざまな程度の成功を明らかにし、モデルの洗練とトレーニング データの影響を示しています。
GPT-4 は、特に複雑な言語理解タスクにおいて最も熟練したものとして浮上し、言語理解における人工知能の進化と、高いスコアで試験に合格する能力を浮き彫りにしました。
要約(オリジナル)
This research paper presents a comprehensive evaluation of the performance of three artificial 10 intelligence chatbots: Bing, ChatGPT, and GPT-4, in addressing standardized test questions. Graduate record examination, known as GRE, serves as a case study in this paper, encompassing both quantitative reasoning and verbal skills. A total of 137 quantitative reasoning questions, featuring diverse styles and 157 verbal questions categorized into varying levels of difficulty (easy, medium, and hard) were administered to assess the chatbots’ capabilities. This paper provides a detailed examination of the results and their implications for the utilization of artificial intelligence in standardized test preparation by presenting the performance of each chatbot across various skills and styles tested in the exam. Additionally, this paper explores the proficiency of artificial intelligence in addressing image-based questions and illustrates the uncertainty level of each chatbot. The results reveal varying degrees of success across the chatbots, demonstrating the influence of model sophistication and training data. GPT-4 emerged as the most proficient, especially in complex language understanding tasks, highlighting the evolution of artificial intelligence in language comprehension and its ability to pass the exam with a high score.
arxiv情報
| 著者 | Mohammad Abu-Haifa,Bara’a Etawi,Huthaifa Alkhatatbeh,Ayman Ababneh |
| 発行日 | 2023-12-20 06:40:30+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google