Muon 优化器浅析
从 SGD 到 AdamW 的向量优化器出发，介绍 Muon 如何用 msign 与 Newton–Schulz 迭代在矩阵层面更新参数，以及它的机理、适用范围和显存收益。
文章27
{/}
筛选与排序
没有匹配的标签
-
-
-
-
-
-
-
-
-
-
-
-
-
-
The Bitter Lesson：ALL IN， 此刻启程
作为严肃的 AI 学习的第一篇文章，我想用《The Bitter Lesson》作为我们的开始。这篇文章未来会随着我的思考添加更多新颖的例证和观点。
-
-
-
-
-
-
-
-
-
-
-
-
-
没有找到符合条件的文章
试试其他关键词，移除标签，或改为匹配任一标签。