The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery

要約

汎用人工知能の大きな課題の 1 つは、科学研究を実施し、新しい知識を発見できるエージェントを開発することです。
フロンティアモデルは人間の科学者の補助としてすでに使用されています。
アイデアのブレーンストーミング、コードの作成、予測タスクなどでは、依然として科学プロセスのほんの一部しか実行されていません。
この論文は、フロンティアの大規模言語モデルが独立して研究を実行し、その結果を伝達できるようにする、完全に自動化された科学的発見のための最初の包括的なフレームワークを紹介します。
新しい研究アイデアを生成し、コードを作成し、実験を実行し、結果を視覚化し、完全な科学論文を書くことで発見を説明し、評価のためのシミュレートされたレビュー プロセスを実行する AI Scientist を紹介します。
原則として、このプロセスを繰り返すことで、人間の科学コミュニティのように、オープンエンド方式でアイデアを反復的に発展させることができます。
私たちは、拡散モデリング、トランスフォーマーベースの言語モデリング、学習ダイナミクスという機械学習の 3 つの異なるサブフィールドにそれを適用することで、その多用途性を実証します。
各アイデアは実装され、論文 1 件あたり 15 ドル未満のコストで完全な論文に発展します。
生成された論文を評価するために、自動レビューアを設計して検証し、論文スコアの評価において人間に近いパフォーマンスを達成することを示しました。
AI 科学者は、自動レビュー担当者の判断に従って、トップクラスの機械学習カンファレンスで合格基準を超える論文を作成できます。
このアプローチは、機械学習における科学的発見の新時代の始まりを意味します。AI エージェントの革新的なメリットを AI 自体の研究プロセス全体にもたらし、手頃な価格で無限の創造性とイノベーションを解き放つことができる世界に私たちを近づけます。
世界で最も困難な問題。
私たちのコードは https://github.com/SakanaAI/AI-Scientist でオープンソース化されています

要約(オリジナル)

One of the grand challenges of artificial general intelligence is developing agents capable of conducting scientific research and discovering new knowledge. While frontier models have already been used as aids to human scientists, e.g. for brainstorming ideas, writing code, or prediction tasks, they still conduct only a small part of the scientific process. This paper presents the first comprehensive framework for fully automatic scientific discovery, enabling frontier large language models to perform research independently and communicate their findings. We introduce The AI Scientist, which generates novel research ideas, writes code, executes experiments, visualizes results, describes its findings by writing a full scientific paper, and then runs a simulated review process for evaluation. In principle, this process can be repeated to iteratively develop ideas in an open-ended fashion, acting like the human scientific community. We demonstrate its versatility by applying it to three distinct subfields of machine learning: diffusion modeling, transformer-based language modeling, and learning dynamics. Each idea is implemented and developed into a full paper at a cost of less than $15 per paper. To evaluate the generated papers, we design and validate an automated reviewer, which we show achieves near-human performance in evaluating paper scores. The AI Scientist can produce papers that exceed the acceptance threshold at a top machine learning conference as judged by our automated reviewer. This approach signifies the beginning of a new era in scientific discovery in machine learning: bringing the transformative benefits of AI agents to the entire research process of AI itself, and taking us closer to a world where endless affordable creativity and innovation can be unleashed on the world’s most challenging problems. Our code is open-sourced at https://github.com/SakanaAI/AI-Scientist

arxiv情報

著者 Chris Lu,Cong Lu,Robert Tjarko Lange,Jakob Foerster,Jeff Clune,David Ha
発行日 2024-08-12 16:58:11+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CL, cs.LG パーマリンク