Command A: An Enterprise-Ready Large Language Model

要約

このレポートでは、Command Aの開発について説明します。コマンドAは、実際のエンタープライズユースケースに優れていることを目的とした強力な大規模な言語モデルです。
コマンドAは、エージェントが最適化された多言語対応モデルであり、グローバルビジネスの23の言語をサポートし、新しいハイブリッドアーキテクチャのバランスをとる効率と範囲のパフォーマンスをサポートしています。
洗練されたビジネスプロセスを自動化するための接地とツールを使用して、クラス最高の検索拡張生成（RAG）機能を提供します。
これらの能力は、自己修正アルゴリズムやモデルのマージテクニックなど、分散型トレーニングアプローチを通じて達成されます。
また、能力とアーキテクチャの類似性を共有するコマンドR7Bの結果も含めます。両方のモデルの重みが研究目的でリリースされています。
このテクニカルレポートは、当社のオリジナルのトレーニングパイプラインについて詳しく説明し、一連のエンタープライズ関連タスクとパブリックベンチマークにまたがるモデルの広範な評価を提示し、優れたパフォーマンスと効率性を示しています。

要約(オリジナル)

In this report we describe the development of Command A, a powerful large language model purpose-built to excel at real-world enterprise use cases. Command A is an agent-optimised and multilingual-capable model, with support for 23 languages of global business, and a novel hybrid architecture balancing efficiency with top of the range performance. It offers best-in-class Retrieval Augmented Generation (RAG) capabilities with grounding and tool use to automate sophisticated business processes. These abilities are achieved through a decentralised training approach, including self-refinement algorithms and model merging techniques. We also include results for Command R7B which shares capability and architectural similarities to Command A. Weights for both models have been released for research purposes. This technical report details our original training pipeline and presents an extensive evaluation of our models across a suite of enterprise-relevant tasks and public benchmarks, demonstrating excellent performance and efficiency.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google