粤港澳大湾区首个“真武”万卡智算集群上线

上证报中国证券网讯（记者杨翔菲）记者4月7日从阿里云方面获悉，近日，由中国电信联合阿里云建设的粤港澳大湾区首个“真武”万卡智算集群在广东韶关数据中心正式上线。

作为国家“超大规模智算集群”新基建工程在大湾区的首个落地项目，该集群实现了从芯片、云平台到模型应用的全链路自主研发，标志着国内先进算力正从高端性能突破迈向规模化产业落地。

集群采用新一代高性能组网架构，端到端数据传输时延低至4微秒，网络峰值利用率超过95%，上万张芯片得以像一台超级计算机一样协同工作，稳定承载千亿参数级大模型的训练与推理任务。

集群提供从IaaS、PaaS到MaaS的全栈AI云能力，用户既可以用它训练自己的专属模型，也可以直接调用已有的大模型能力。配合针对“真武”芯片深度优化的工具套件，模型运行环境可在秒级完成加载，单个模型的微调最快数小时即可完成，整体训练与推理效率较通用方案提升超过30%。

目前，该集群已在诸多行业场景落地。在医疗民生领域，集群上线“全诊通”应用，面向基层医疗机构提供诊疗智能化服务，已在中山大学肿瘤防治中心等医院开展应用试点；在产业创新领域，为电子信息、先进材料、生物医药、装备制造、低空经济等重点产业提供模型训练、推理与调优服务，有效缩短创新周期。

依托阿里全栈AI技术带来的协同优化，集群单卡吞吐性能较传统部署模式提升达9.3倍，单机每秒Token生成量实现近10倍。为进一步推动算力普惠，相关资源已同步上架“广东电信算力超市”，面向中小企业提供按卡、按小时计费的算力零售服务。同时，集群预计扩容至十万卡规模，助力大湾区更多科研机构、企业和政府单位以更低成本、更高效率使用算力资源。

（文章来源：上海证券报·中国证券网）