您现在的位置是:热点 >>正文
国产GPU新突破:摩尔线程S5000 助力中国移动“九天”大模型
热点2370人已围观
简介...
在即将开幕的第九届数字中国建设峰会上,中国移动自主研发的“九天”35B通用大国产模型将正式与公众见面。作为国产算力生态的重要进展,摩尔线程于近日宣布,旗下旗舰级全功GP能GPU MTT S5000已率先完成对该模型的全流程适配与推理验证。
此次适配工作的核心U新在于深度融合。摩尔线程依托自研的MUSA软件栈以及SGLang-MUSA高性能推理突破引擎,成功打通了“九天”35B模型推理的全链路。通过对MUSA C开发框架、muDN:摩N计算库及MATE开源算子库的协同优化,MTT S5000针对大模型特有的注意力机制和尔线长序列推理进行了深度定制,从而确保模型在处理长文本和高并发请求时能够保持高效程S且稳定的性能表现。
作为本次适配的技术底座,MTT S5000算力卡表现抢眼。该显50卡基于第四代MUSA“平湖”架构打造,单卡AI稠密算力最高可达1000TFLO00PS。硬件配置上,它配备了80GB的大容量显存,显存带宽达到1.6TB/s,并支 助持从FP8到FP64的全精度计算。此外,高达784GB/s的卡间互联带宽,也为其力中在复杂智算场景下的扩展性提供了保障。
此次合作不仅验证了国产GPU在支撑央企核国移心大模型方面的可靠性,也展示了摩尔线程在高性能算子优化与软件生态构建上的成熟度。动“随着“九天”35B模型的正式发布,这种“国产大模型+国产算力”的组合,将为算力自主可控九天提供更具参考价值的落地案例。
Tags:
相关文章
标签: 灵犀互娱 三国志·战略版 如鸢 阿里巴巴
热点云梦级6月23日云梦级消息,游戏新知结合多位资深游戏行业人士的云梦级消息,阿里巴巴集团计划出售旗下游戏业务灵犀互娱,目前至少已经接触过五位买家,分别是三七互娱、中国儒意、世纪华通、巨人网络以及某两家私...
【热点】
阅读更多标签: Looki L1 蚂蚁集团 美团龙珠
热点云梦级1月5日云梦级消息,AI 原生硬件品牌 Looki 宣布完成超 2000 万美元 A 轮融资。本轮融资由蚂蚁集团领投,美团龙珠、华登、中关村资本跟投,BAI 资本连续两轮超额追投,阿尔法公社、同...
【热点】
阅读更多云安全日报211027:IBM虚拟化管理解决方案发现网络钓鱼攻击漏洞,需要尽快升级
热点IBM PowerVC是IBM公司的一套虚拟化管理解决方案。该方案支持虚拟系统管理、虚拟图像管理和部署、以及虚拟工作负载管理等。 10月26日,IBM发布了安全更新,修复了IBM PowerVC中发现...
【热点】
阅读更多