HuixiangDou: Overcoming Group Chat Scenarios with LLM-based Technical Assistance

要約

この作業では、Large Language Model (LLM) を利用した技術アシスタント HuixiangDou を紹介します。
このシステムは、OpenMMLab のコンピューター ビジョンやディープ ラーニング プロジェクトなどのオープンソース アルゴリズム プロジェクトに関連する質問に洞察に富んだ回答を提供することで、アルゴリズム開発者を支援するように設計されています。
このアシスタントを WeChat や Lark などのインスタント メッセージング (IM) ツールのグループ チャットに統合することをさらに検討します。
何度か改良と試行を繰り返した結果、メッセージの氾濫を引き起こすことなくユーザーの技術的な質問に効果的に答えることができる洗練された技術チャット アシスタントを開発しました。
この論文の貢献には次のものが含まれます。 1) グループ チャット シナリオ専用のアルゴリズム パイプラインを設計する。
2) タスク拒否における text2vec の信頼できるパフォーマンスを検証する。
3) テクニカル アシスタントのような製品における LLM の 3 つの重要な要件、つまりスコアリング能力、インコンテキスト学習 (ICL)、およびロング コンテキストを特定します。
ソース コード、Android アプリ、および Web サービスは、Github (https://github.com/internlm/huixiangdou)、OpenXLab (https://openxlab.org.cn/apps/detail/tpoisonooo/huixiangdou-web) で利用できるようにしました。
) および YouTube (https://youtu.be/ylXrT-Tei-Y) は、将来の研究と応用に役立ちます。
HuixiangDou は、IM ツール内のあらゆるグループ チャットに適用できます。

要約(オリジナル)

In this work, we present HuixiangDou, a technical assistant powered by Large Language Models (LLM). This system is designed to assist algorithm developers by providing insightful responses to questions related to open-source algorithm projects, such as computer vision and deep learning projects from OpenMMLab. We further explore the integration of this assistant into the group chats of instant messaging (IM) tools such as WeChat and Lark. Through several iterative improvements and trials, we have developed a sophisticated technical chat assistant capable of effectively answering users’ technical questions without causing message flooding. This paper’s contributions include: 1) Designing an algorithm pipeline specifically for group chat scenarios; 2) Verifying the reliable performance of text2vec in task rejection; 3) Identifying three critical requirements for LLMs in technical-assistant-like products, namely scoring ability, In-Context Learning (ICL), and Long Context. We have made the source code, android app and web service available at Github (https://github.com/internlm/huixiangdou), OpenXLab (https://openxlab.org.cn/apps/detail/tpoisonooo/huixiangdou-web) and YouTube (https://youtu.be/ylXrT-Tei-Y) to aid in future research and application. HuixiangDou is applicable to any group chat within IM tools.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google