「cond-mat.dis-nn」カテゴリーアーカイブ

Risk and cross validation in ridge regression with correlated samples

投稿日: 2024年8月9日 作成者: jarxiv

要約 近年、高次元リッジ回帰の理解が大幅に進歩しましたが、既存の理論ではトレーニ … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG, stat.ML | Risk and cross validation in ridge regression with correlated samples はコメントを受け付けていません

Bayes-optimal learning of an extensive-width neural network from quadratically many samples

投稿日: 2024年8月8日 作成者: jarxiv

要約 最初の層の後の二次活性化関数とランダムな重みを使用して、単一の隠れ層ニュー … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.IT, cs.LG, math.IT, math.PR, stat.ML | Bayes-optimal learning of an extensive-width neural network from quadratically many samples はコメントを受け付けていません

Spin glass model of in-context learning

投稿日: 2024年8月6日 作成者: jarxiv

要約 大規模な言語モデルは、驚くべきコンテキスト内学習能力を示します。これは、昔 … 続きを読む →

カテゴリー: cond-mat.dis-nn, cond-mat.stat-mech, cs.AI, cs.CL | Spin glass model of in-context learning はコメントを受け付けていません

DCEM: A deep complementary energy method for solid mechanics

投稿日: 2024年7月30日 作成者: jarxiv

要約 近年、ディープラーニングの急速な進歩はさまざまな分野に大きな影響を与えてお … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG | DCEM: A deep complementary energy method for solid mechanics はコメントを受け付けていません

Predictive Coding Networks and Inference Learning: Tutorial and Survey

投稿日: 2024年7月23日 作成者: jarxiv

要約 近年、NeuroAI の旗印のもと、人工知能研究における神経科学にヒントを … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.AI, cs.LG, cs.NE, stat.ML | Predictive Coding Networks and Inference Learning: Tutorial and Survey はコメントを受け付けていません

Information limits and Thouless-Anderson-Palmer equations for spiked matrix models with structured noise

投稿日: 2024年7月9日 作成者: jarxiv

要約 構造化スパイクモデルに対するベイズ推論の典型的な問題、つまり低ランク信号が … 続きを読む →

カテゴリー: 62F15, 82B44, cond-mat.dis-nn, cs.IT, cs.LG, math.IT, math.ST, stat.TH | Information limits and Thouless-Anderson-Palmer equations for spiked matrix models with structured noise はコメントを受け付けていません

Scaling and renormalization in high-dimensional regression

投稿日: 2024年6月27日 作成者: jarxiv

要約 この論文では、ランダム行列理論と自由確率の基本ツールを使用した、さまざまな … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG, stat.ML | Scaling and renormalization in high-dimensional regression はコメントを受け付けていません

Coding schemes in neural networks learning classification tasks

投稿日: 2024年6月25日 作成者: jarxiv

要約 ニューラル ネットワークには、タスクに依存する特徴の意味のある表現を生成す … 続きを読む →

カテゴリー: cond-mat.dis-nn, cond-mat.stat-mech, cs.LG, stat.ML | Coding schemes in neural networks learning classification tasks はコメントを受け付けていません

Scaling and renormalization in high-dimensional regression

投稿日: 2024年6月25日 作成者: jarxiv

要約 この論文では、ランダム行列理論と自由確率の基本ツールを使用した、さまざまな … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG, stat.ML | Scaling and renormalization in high-dimensional regression はコメントを受け付けていません

Why Warmup the Learning Rate? Underlying Mechanisms and Improvements

投稿日: 2024年6月14日 作成者: jarxiv

要約 深層学習では、学習率 $\eta$ をウォームアップするのが一般的であり、 … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG, stat.ML | Why Warmup the Learning Rate? Underlying Mechanisms and Improvements はコメントを受け付けていません