数码 #10227
超节点绕行英伟达:国产算力换了一条赛道
Kimi K3发布技术报告的时候,在官方部署文档里写了一句让整个算力圈没法淡定的话:推荐在64卡及以上超节点配置中部署。 这是超节点第一次被写进大模型的"安装说明书",而且是作为硬性门槛出现的——不是"最好有",是"没有不行"。Kimi K3有2.8万亿参数、896个专家,MoE架构下的通信量大到惊人,跨节点通信一旦卡壳,推理效率直接崩盘。你不用超节点,最新模型连该有的性能都跑不出来。 没过多久,
继续阅读,免费注册
当前为正文预览,注册后可阅读全文并查看原文。