跳到主要内容

#MoE

标签

与该标签相关的文章、问题和作品。

1 篇文章0 个问题0 个作品
AI 底层工程··阿新聊ai

大模型的缩放定律:Scaling Law、Chinchilla、MoE,为什么模型越大越好

本文迁移自 mindcarver/91ai · 原始位置 docs/machine learning/stage5 transformer/05 scaling laws.md · 由 @阿新聊ai 整理。 <! 调研来源: 1. Kaplan et al., "Scaling Laws for Neural Lan...