新浪科技讯 5月16日晚间消息，在今日的华为云AI峰会上，华为云副总裁黄瑾发表主题演讲，介绍了更多CloudMatrix 384超节点技术优势与细节。他指出，随着大模型训练和推理对算力需求的爆炸式增长，传统计算架构已难以支撑AI技术的代际跃迁十倍配资开户，超节点架构的诞生不仅是技术的突破，更是以工程化创新开辟AI产业的新路径。
当前，大模型训练经历了从早期小模型在单卡训练、小参数大模型在单机训练，到现在MoE、长序列、多模态大模型都在AI集群上训练的演进过程。AI算力的瓶颈，从单卡算力的瓶颈到单机内总线带宽的瓶颈，再到现在集群间通信带宽的瓶颈，需求增长了1万倍。然而过去的8年里，单卡硬件的算力增长了40倍，但是节点内的总线带宽只增长了9倍，跨节点的网络带宽只增长了4倍，这使得集群网络通信成为当前大模型训练和推理的最大挑战。
黄瑾表示，面对这些挑战，华为云推出了采用全对等互联架构的CloudMatrix 384超节点。这项技术创新跳出单点技术限制走向系统性、工程性的创新算力架构，直面通信效率瓶颈、内存墙制约、可靠性短板三大技术挑战。通过新型高速互联总线实现384张卡互联成为一个超级云服务器，最高提供300Pflops的算力规模，比业界同类产品领先67%。
目前，基于CloudMatrix的超节点集群已经在芜湖、贵安、内蒙规模上线，黄瑾介绍，华为云CloudMatrix 384超节点具备MoE亲和、以网强算、以存强算、长稳可靠、朝推夜训、即开即用六大技术优势，以系统架构创新重新定义新一代AI基础设施。
黄瑾强调，华为云超节点创新系统架构的背后，是华为云坚持“昇腾云服务支持百模千态，盘古大模型重塑千行万业”的战略。一直以来华为云持续推动昇腾AI云服务全面升级，通过打磨昇腾云的训练、推理的性能、可靠性和性价比，为中国乃至全球客户提供好用、易用的AI算力云服务。现已全面适配了DeepSeek在内的160多个大模型，以云服务的方式，协助客户进行模型的开发，训练，托管和应用。昇腾AI云服务上线以来，面向政府、金融、零售、互联网、交通、制造等行业已经服务六百多家创新先锋企业，加速行业智能化应用的快速落地。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：刘万里 SF014十倍配资开户
盈富优配提示：文章来自网络，不代表本站观点。
相关文章
沪深京指数
- 上证综指
- 3362.11
- -26.70
- -0.79%
- 深证成指
- 10051.97
- -123.62
- -1.21%
- 沪深300
- 3843.09
- -31.88
- -0.82%
- 北证50
- 1365.79
- -27.65
- -1.98%
- 创业板指
- 2026.82
- -27.91
- -1.36%
- 基金指数
- 6906.53
- -8.26
- -0.12%
- 国债指数
- 225.35
- +0.09
- +0.04%
- 期指IC0
- 5504.40
- -57.80
- -1.04%
热点资讯
