MaxMind: A Memory Loop Network to Enhance Software Productivity based on Large Language Models

要約

大規模な言語モデルを適用して自動ソフトウェア操作およびツール生成 (SOTG) を促進し、ソフトウェアの生産性を向上させることは、ツールを作成して使用する能力が文明の進歩を加速した人類進化の初期段階を反映しています。
これらの複雑なタスクには、AI による継続的な要約と改善が必要です。
現在の研究では、リアルタイムのタスク経験をシステム メモリに変換し、将来の参照のために既存の知識の価値を区別することの重要性が見落とされています。
この論文では、タイムリーな記憶と経験の参照を可能にする外部メモリ モデルをメモリループ ネットワークに進化させることで、これらの問題に対処します。
また、値の微分に基づいてメモリを利用するための知識精度セグメンテーションによる RAG メカニズムを強化し、それに応じて SOTG 用の MaxMind モデルを設計します。私たちのアプローチを実証するために、MaxMind の哲学に沿った電子スプレッドシート処理システムである MaxMind4Sheet を開発しました。
SheetCopilot との比較実験により、タスク メモリの蓄積と再利用によりタスクの成功率が着実に向上することが実証されており、この実装例では 1 ラウンドあたり約 3% ～ 6% の改善率となっています。
メモリが増加し続けるにつれて、この累積的な改善は大幅になる可能性があることに注意してください。
メモリのリサイクルを組み込むことで、システムのタスク実行効率も最大 25% 向上し、メモリ転送を通じて特殊なタスクを処理するときに LLM が直面する再トレーニングの問題に対処できます。これらのことから、MaxMind には機能と生産性を向上させる大きな可能性があることが示唆されています。
SOTG の LLM システムの説明。

要約(オリジナル)

The application of large language models to facilitate automated software operations and tool generation (SOTG), thus augmenting software productivity, mirrors the early stages of human evolution when the ability to create and use tools accelerated the progress of civilization. These complex tasks require AI to continuously summarize and improve. Current research often overlooks the importance of converting real-time task experiences into system memory and differentiating the value of existing knowledge for future reference. This paper addresses these issues by evolving external memory models into Memory-Loop Networks for timely memorization and experience referencing. We also enhance a RAG mechanism with knowledge precision segmentation to utilize memory based on value differentiation, and design the MaxMind model for SOTG accordingly.To demonstrate our approach, we developed MaxMind4Sheet, an electronic spreadsheet processing system aligned with the MaxMind philosophy. Comparative experiments with SheetCopilot have demonstrated that the accumulation and recycling of task memories lead to a steady enhancement in task success rate, with an improvement rate of approximately 3%-6% per round in this implementation example. Note that as the memories continue to grow, this cumulative improvement may be substantial. The inclusion of memory recycling can also boost the system’s task execution efficiency by up to 25%, and it can address the retraining issue faced by LLMs when handling specialized tasks through memories transfer.These suggest that MaxMind has significant potential to enhance the capabilities and productivity of LLM systems in SOTG.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google