全球首个商用智算昇腾超节点在大湾区上线

通信产业网

13小时前

中国电信将智算昇腾超节点纳入全国算力体系,为全国提供服务,同时结合大湾区通算、智算、超算层次化布局,面向用户提供训推一体、云智一体、超智一体能力,服务千行百业。

【通信产业网讯】4月26日下午,全球首个商用智算昇腾超节点在中国电信粤港澳大湾区(韶关)算力集群正式发布,现已商用上线,标志着新一代智能算力注入粤港澳大湾区国家级算力枢纽节点,中国电信在AI算力基础设施领域取得重大进展,为人工智能产业高质量发展注入新动能。广东省委常委、副省长张国智,中国电信董事长柯瑞文,韶关市委书记陈少荣,华为公司董事陶景文出席并致辞。

1111.png

目前,大模型的Scaling Law仍然生效,国内外主流基础大模型参数量持续增加,算力需求不断增加;大模型从稠密架构向混合专家模型(MoE)稀疏架构演进。基于以上特点,业界主流智算服务器在提升单卡算力的同时,正在从单节点向超节点架构演进。智算昇腾超节点采用新型高速总线架构,天然适配混合专家模型(MoE)架构,使得大模型训练效率和推理性能大幅提升。

22.jpg

中国电信此前在京津冀、长三角建成的国内首批全液冷万卡池,保障了智能算力的供给量,在粤港澳大湾区枢纽节点建设首个超节点形态集群,标志着中国电信智能算力供给实现质与量的双重跨越。

智算昇腾超节点凭借四大核心优势,引领智算新潮流。

通过架构升级和软件优化,大幅提升训练和推理性能。相比910B,NPU(神经网络处理器)间高速互联带宽提升14倍,模型切分并行域提升48倍,训练场景效率提升2.7倍,推理场景单卡吞吐提升20倍以上(叠加大规模专家并行和PD分离技术)。

云网融合所带来的运力优势。中国电信提供超低时延、超高安全、超快传输的运力保障,通过全光400G运力网络打造华南地区10毫秒、广东地区5毫秒、大湾区3毫秒的超低时延运力底座,实现智能算力的高速互联。通过量子技术,保障数据安全传输。利用超算快线打造高达百G的敏捷弹性、任务式服务的算力传输能力。

依托“息壤”一体化智算服务平台能力优势。中国电信将智算昇腾超节点纳入全国算力体系,为全国提供服务,同时结合大湾区通算、智算、超算层次化布局,面向用户提供训推一体、云智一体、超智一体能力,服务千行百业。

弹性、绿色、智慧的AIDC。作为粤港澳大湾区首个大规模全液冷智能算力数据中心,中国电信全面应用绿色低碳技术,100%使用绿电,PUE小于1.15,采用数字孪生、AI等先进技术,打造全程数字化智慧运营管理能力,构建智慧的AIDC。

中国电信将智算昇腾超节点纳入全国算力体系,为全国提供服务,同时结合大湾区通算、智算、超算层次化布局,面向用户提供训推一体、云智一体、超智一体能力,服务千行百业。

【通信产业网讯】4月26日下午,全球首个商用智算昇腾超节点在中国电信粤港澳大湾区(韶关)算力集群正式发布,现已商用上线,标志着新一代智能算力注入粤港澳大湾区国家级算力枢纽节点,中国电信在AI算力基础设施领域取得重大进展,为人工智能产业高质量发展注入新动能。广东省委常委、副省长张国智,中国电信董事长柯瑞文,韶关市委书记陈少荣,华为公司董事陶景文出席并致辞。

1111.png

目前,大模型的Scaling Law仍然生效,国内外主流基础大模型参数量持续增加,算力需求不断增加;大模型从稠密架构向混合专家模型(MoE)稀疏架构演进。基于以上特点,业界主流智算服务器在提升单卡算力的同时,正在从单节点向超节点架构演进。智算昇腾超节点采用新型高速总线架构,天然适配混合专家模型(MoE)架构,使得大模型训练效率和推理性能大幅提升。

22.jpg

中国电信此前在京津冀、长三角建成的国内首批全液冷万卡池,保障了智能算力的供给量,在粤港澳大湾区枢纽节点建设首个超节点形态集群,标志着中国电信智能算力供给实现质与量的双重跨越。

智算昇腾超节点凭借四大核心优势,引领智算新潮流。

通过架构升级和软件优化,大幅提升训练和推理性能。相比910B,NPU(神经网络处理器)间高速互联带宽提升14倍,模型切分并行域提升48倍,训练场景效率提升2.7倍,推理场景单卡吞吐提升20倍以上(叠加大规模专家并行和PD分离技术)。

云网融合所带来的运力优势。中国电信提供超低时延、超高安全、超快传输的运力保障,通过全光400G运力网络打造华南地区10毫秒、广东地区5毫秒、大湾区3毫秒的超低时延运力底座,实现智能算力的高速互联。通过量子技术,保障数据安全传输。利用超算快线打造高达百G的敏捷弹性、任务式服务的算力传输能力。

依托“息壤”一体化智算服务平台能力优势。中国电信将智算昇腾超节点纳入全国算力体系,为全国提供服务,同时结合大湾区通算、智算、超算层次化布局,面向用户提供训推一体、云智一体、超智一体能力,服务千行百业。

弹性、绿色、智慧的AIDC。作为粤港澳大湾区首个大规模全液冷智能算力数据中心,中国电信全面应用绿色低碳技术,100%使用绿电,PUE小于1.15,采用数字孪生、AI等先进技术,打造全程数字化智慧运营管理能力,构建智慧的AIDC。

展开
打开“财经头条”阅读更多精彩资讯
APP内打开