【《Kimi K3》拆解:2.78万亿参数模型如何提升训练效率】Kimi K3总参数量2.78万亿、每Token激活约1042亿参数,支持100万Token上下文。文章梳理其以线性注意力、专家通信压缩和残差改造等方案,实现约2.5倍规模扩展效率。 - 主题新热榜