投稿者「jarxiv」のアーカイブ

The Mystery of In-Context Learning: A Comprehensive Survey on Interpretation and Analysis

投稿日: 2024年10月4日 作成者: jarxiv

要約 大規模言語モデル(LLM)が実証例を通して習熟することを可能にする文脈内学 … 続きを読む →

カテゴリー: cs.CL | コメントする

Turning English-centric LLMs Into Polyglots: How Much Multilinguality Is Needed?

投稿日: 2024年10月4日 作成者: jarxiv

要約 今日の大規模言語モデル（LLM）の大部分は英語中心であり、主に英語のテキス … 続きを読む →

カテゴリー: cs.CL | コメントする

UncertaintyRAG: Span-Level Uncertainty Enhanced Long-Context Modeling for Retrieval-Augmented Generation

投稿日: 2024年10月4日 作成者: jarxiv

要約 我々は、テキストチャンク間の類似性を推定するために、信号対雑音比（SNR） … 続きを読む →

カテゴリー: cs.CL | コメントする

Grounding Large Language Models In Embodied Environment With Imperfect World Models

投稿日: 2024年10月4日 作成者: jarxiv

要約 様々なアプリケーションで広く成功を収めているにもかかわらず、大規模言語モデ … 続きを読む →

カテゴリー: cs.CL, cs.LG, cs.RO | コメントする

MA-RLHF: Reinforcement Learning from Human Feedback with Macro Actions

投稿日: 2024年10月4日 作成者: jarxiv

要約 人間のフィードバックからの強化学習（RLHF）は、大規模言語モデル（LLM … 続きを読む →

カテゴリー: cs.CL | コメントする

PharmacyGPT: The AI Pharmacist

投稿日: 2024年10月4日 作成者: jarxiv

要約 本研究では、臨床薬剤師の役割をエミュレートするためのChatGPTやGPT … 続きを読む →

カテゴリー: cs.CL | コメントする

On Training Data Influence of GPT Models

投稿日: 2024年10月4日 作成者: jarxiv

要約 生成言語モデルの急速な進歩の中で、学習データがGPTモデルの性能をどのよう … 続きを読む →

カテゴリー: cs.CL, cs.LG | コメントする

Tokenization Falling Short: The Curse of Tokenization

投稿日: 2024年10月4日 作成者: jarxiv

要約 言語モデルは通常、生テキストを事前に定義された語彙からサブワード識別子のシ … 続きを読む →

カテゴリー: cs.CL | コメントする

Training Language Models on Synthetic Edit Sequences Improves Code Synthesis

投稿日: 2024年10月4日 作成者: jarxiv

要約 ソフトウェア・エンジニアは、主に既存のプログラムを編集してコードを書く。対 … 続きを読む →

カテゴリー: cs.CL, cs.LG | コメントする

SIEVE: General Purpose Data Filtering System Matching GPT-4o Accuracy at 1% the Cost

投稿日: 2024年10月4日 作成者: jarxiv

要約 特化した大規模言語モデルを作成するには、学習と微調整のために膨大な量のクリ … 続きを読む →

カテゴリー: cs.CL, cs.LG | コメントする