Emergent autonomous scientific research capabilities of large language models

要約

タイトル：大規模言語モデルの登場による自律的な科学的研究の能力の出現

要約：
– 大規模言語モデルは、自然言語、生物学、化学、コンピュータプログラミングなど、様々な分野での応用を考えられている。Transformerを利用した言語モデルは、機械学習研究の分野で急速に進化している。
– 人間からのフィードバックによる強化学習を可能にすることで、生成されたテキストの品質が著しく向上し、これらのモデルは複数のタスクを実行し、選択について推論することができる。
– 本論文では、自律的な設計、計画、実行に多数の言語モデルを組み合わせたインテリジェントエージェントシステムを紹介する。
– 複数のサンプルを使って、エージェントの科学的研究能力を紹介した。最も複雑なものは、触媒クロスカップリング反応の成功である。
– 最後に、このようなシステムの安全性の問題と、その悪用を防止するための対策について議論する。

要約(オリジナル)

Transformer-based large language models are rapidly advancing in the field of machine learning research, with applications spanning natural language, biology, chemistry, and computer programming. Extreme scaling and reinforcement learning from human feedback have significantly improved the quality of generated text, enabling these models to perform various tasks and reason about their choices. In this paper, we present an Intelligent Agent system that combines multiple large language models for autonomous design, planning, and execution of scientific experiments. We showcase the Agent’s scientific research capabilities with three distinct examples, with the most complex being the successful performance of catalyzed cross-coupling reactions. Finally, we discuss the safety implications of such systems and propose measures to prevent their misuse.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI