「cond-mat.dis-nn」カテゴリーアーカイブ

Field theory for optimal signal propagation in ResNets

投稿日: 2024年8月27日 作成者: jarxiv

要約 残差ネットワークは、深い深さのフィードフォワード ネットワークよりもトレー … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG, stat.ML | Field theory for optimal signal propagation in ResNets はコメントを受け付けていません

Dynamics of Meta-learning Representation in the Teacher-student Scenario

投稿日: 2024年8月23日 作成者: jarxiv

要約 勾配ベースのメタ学習アルゴリズムは、限られたデータを使用して新しいタスクで … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG | Dynamics of Meta-learning Representation in the Teacher-student Scenario はコメントを受け付けていません

Fundamental computational limits of weak learnability in high-dimensional multi-index models

投稿日: 2024年8月22日 作成者: jarxiv

要約 マルチインデックス モデル (部分空間への投影の非線形変換を通じて共変量に … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.CC, cs.LG | Fundamental computational limits of weak learnability in high-dimensional multi-index models はコメントを受け付けていません

Kernel Density Estimators in Large Dimensions

投稿日: 2024年8月19日 作成者: jarxiv

要約 この論文では、高次元分布 $\rho(x)$ のカーネル密度推定を研究しま … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG, math.ST, stat.ML, stat.TH | Kernel Density Estimators in Large Dimensions はコメントを受け付けていません

NEAR: A Training-Free Pre-Estimator of Machine Learning Model Performance

投稿日: 2024年8月19日 作成者: jarxiv

要約 人工ニューラル ネットワークは、自然言語処理や画像認識など、さまざまな用途 … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG, physics.chem-ph, physics.data-an | NEAR: A Training-Free Pre-Estimator of Machine Learning Model Performance はコメントを受け付けていません

Dataset-learning duality and emergent criticality

投稿日: 2024年8月19日 作成者: jarxiv

要約 人工ニューラル ネットワークでは、トレーニング不可能な変数の活性化ダイナミ … 続きを読む →

カテゴリー: cond-mat.dis-nn, cond-mat.stat-mech, cs.LG, cs.NE | Dataset-learning duality and emergent criticality はコメントを受け付けていません

Hierarchical Working Memory and a New Magic Number

投稿日: 2024年8月15日 作成者: jarxiv

要約 作業記憶の範囲は非常に限られており、通常は約 4 項目であり、はるかに大量 … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.CL, q-bio.NC | Hierarchical Working Memory and a New Magic Number はコメントを受け付けていません

Risk and cross validation in ridge regression with correlated samples

投稿日: 2024年8月9日 作成者: jarxiv

要約 近年、高次元リッジ回帰の理解が大幅に進歩しましたが、既存の理論ではトレーニ … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.LG, stat.ML | Risk and cross validation in ridge regression with correlated samples はコメントを受け付けていません

Bayes-optimal learning of an extensive-width neural network from quadratically many samples

投稿日: 2024年8月8日 作成者: jarxiv

要約 最初の層の後の二次活性化関数とランダムな重みを使用して、単一の隠れ層ニュー … 続きを読む →

カテゴリー: cond-mat.dis-nn, cs.IT, cs.LG, math.IT, math.PR, stat.ML | Bayes-optimal learning of an extensive-width neural network from quadratically many samples はコメントを受け付けていません

Spin glass model of in-context learning

投稿日: 2024年8月6日 作成者: jarxiv

要約 大規模な言語モデルは、驚くべきコンテキスト内学習能力を示します。これは、昔 … 続きを読む →

カテゴリー: cond-mat.dis-nn, cond-mat.stat-mech, cs.AI, cs.CL | Spin glass model of in-context learning はコメントを受け付けていません