Kani: A Lightweight and Highly Hackable Framework for Building Language Model Applications

要約

言語モデル アプリケーションはますます人気があり、複雑になっており、多くの場合、ツールの使用や検索の拡張などの機能が含まれています。
ただし、このようなアプリケーションの既存のフレームワークは意見が固まっていることが多く、プロンプトをどのようにフォーマットするかを開発者に決定し、カスタマイズ性や再現性に制限を課しています。
これを解決するために、言語モデル アプリケーションを構築するための、軽量で柔軟性があり、モデルに依存しないオープンソース フレームワークである Kani を紹介します。
Kani は、モデル インターフェイス、チャット管理、堅牢な関数呼び出しなど、チャット インタラクションの中核となる構成要素をサポートすることで、開発者がさまざまな複雑な機能を実装できるように支援します。
すべての Kani コア機能は簡単にオーバーライド可能であり、開発者が独自のニーズに合わせて機能をカスタマイズできるように十分に文書化されています。
したがって、Kani は、研究者、愛好家、業界専門家にとって、相互運用性ときめ細かい制御を維持しながら開発を加速するための有用なツールとして機能します。

要約(オリジナル)

Language model applications are becoming increasingly popular and complex, often including features like tool usage and retrieval augmentation. However, existing frameworks for such applications are often opinionated, deciding for developers how their prompts ought to be formatted and imposing limitations on customizability and reproducibility. To solve this we present Kani: a lightweight, flexible, and model-agnostic open-source framework for building language model applications. Kani helps developers implement a variety of complex features by supporting the core building blocks of chat interaction: model interfacing, chat management, and robust function calling. All Kani core functions are easily overridable and well documented to empower developers to customize functionality for their own needs. Kani thus serves as a useful tool for researchers, hobbyists, and industry professionals alike to accelerate their development while retaining interoperability and fine-grained control.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google