中新网广东新闻7月10日电 (记者 张璐) 粤港澳大湾区首个“国芯训国模”万卡智算集群9日在韶关数据中心集群正式发布。该集群重点支撑国产超大规模参数MoE基础模型研发与国产算力环境下大模型训练与演进的关键技术突破。

据介绍,该集群总投资约55亿元,总计部署30个昇腾910C国产超节点,建成9000P(FP16)统一智算资源池,是大湾区规模领先的全国产万卡训练集群。集群通过自研高速互联技术构建全对等互联架构,整体性能对标国际领先水平。
网络组网层面,创新采用100T交换机,将传统三层组网优化为极简二层组网架构,有效减少网络通信时延、提升集群整体通信效率;工程技术方面,集群全程采用BIM模块化施工、管路预制、路由优化等先进技术,打通电力、机房、液冷、算力、网络全专业端到端协同建设,并全面采用冷板式液冷散热的工程技术,仅历时90天完成全部建设、调试、上线工作,相较业界标准工期缩短50%,创造国内同规模万卡智算集群建设的速度标杆,形成可复制、可推广的“广东国产万卡集群建设标准”。
集群重点保障新一代全国产万亿参数基础大模型研发攻关任务,聚焦代码生成、智能体自主决策等核心高阶能力攻坚,解决国产硬件适配难、新兴模型架构专用算子缺失、超大模型训练不稳定等难题,形成适配国产算力生态的万亿级大模型标准训练范式,实现超大模型从算力底座、训练框架、模型架构到应用落地的全栈国产化突破,形成可复制、可推广的国产算力训练超大参数大模型经验,具备重大技术创新价值。(完)
京公网安备 11010202009201号] [京ICP备2021034286号-7] [互联网宗教信息服务许可证:京(2022)0000118;京(2022)0000119]