A Bibliometric Review of Large Language Models Research from 2017 to 2023

要約

タイトル：2017年から2023年の大規模言語モデル研究の文献評価
要約：大規模言語モデル(LLMs)は、自然言語処理(NLP)のさまざまなタスクで優れたパフォーマンスを発揮し、人間らしい言語を生成する能力や科学技術を革新する可能性から、高く評価されている研究分野です。本研究では、LLMsに関する学術文献の文献メトリックと論述分析を行い、研究者、実践者、政策立案者が現在のLLMs研究の現状を把握するための道筋を提供します。この論文は合計5,000以上の出版物を総合的にまとめることで、2017年から2023年初頭までの研究動向を把握し、研究パラダイムや共同研究のパターンを特定しています。まず、LLMs研究において基本的なコアアルゴリズムの開発とNLPタスクの分析から始め、医学、工学、社会科学、人文科学など、さまざまな分野と領域でLLMsの応用に関する調査も行なっています。このレビューからは、LLMs研究のダイナミックで非常に速い進化が明らかになっています。全体的に、この論文はLLMs研究とその応用の現在の状況、影響、可能性に関する貴重な洞察を提供しています。

– LLMsはNLPタスクにおいて優れたパフォーマンスを発揮することが明らかにされている。
– 本研究は、5,000以上の学術出版物からLLMs研究の動向の把握を提供している。
– LLMs研究は、医学、工学、社会科学、人文科学などさまざまな分野と領域に応用されている。
– 本研究は、LLMs研究のコアアルゴリズムの開発とNLPタスクの分析から始まり、研究パラダイムや研究協力関係の特定に至るまで、包括的な論述分析を提供している。
– LLMs研究は、ダイナミックで非常に速い進化を遂げている。

要約(オリジナル)

Large language models (LLMs) are a class of language models that have demonstrated outstanding performance across a range of natural language processing (NLP) tasks and have become a highly sought-after research area, because of their ability to generate human-like language and their potential to revolutionize science and technology. In this study, we conduct bibliometric and discourse analyses of scholarly literature on LLMs. Synthesizing over 5,000 publications, this paper serves as a roadmap for researchers, practitioners, and policymakers to navigate the current landscape of LLMs research. We present the research trends from 2017 to early 2023, identifying patterns in research paradigms and collaborations. We start with analyzing the core algorithm developments and NLP tasks that are fundamental in LLMs research. We then investigate the applications of LLMs in various fields and domains including medicine, engineering, social science, and humanities. Our review also reveals the dynamic, fast-paced evolution of LLMs research. Overall, this paper offers valuable insights into the current state, impact, and potential of LLMs research and its applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI