直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:娱乐)
-
潜江新闻网讯为鼓励支持就业困难人员灵活就业,实施积极的就业援助政策,实现更加充分的就业,即日起,我市2023年度就业困难人员灵活就业社会保险补贴开始申报。凡具有本市户籍,办理《就业创业证》,经过就业困 ...[详细]
-
展示海洋高新成果 促进产业招商引资厦门海洽会周五开幕亮点1三展联动首次与中国厦门)国际休闲渔业博览会、厦门国际潜水打捞及海工装备展览会同期举办亮点2规模扩大海洽会现场展览面积近15000平方米,参展企 ...[详细]
-
2025年4月22日,北京市互联网法院召开涉网络直播著作权案件审理情况新闻通报会。南方周末记者陈怡帆|摄)2024年7月,网络主播被纳入国家新职业目录,正式成为新就业群体的一部分。这是一个几乎没有门槛 ...[详细]
-
半场战报:水花25分杜兰特12+2 国王58-51勇士发布时间:2018-09-21 10:32 来源:豫都网 我要投稿[摘要]北京时间1月9日,NBA常规赛激战9场,其中金州勇士上半场以51-58落 ...[详细]
-
发布者:蒙蒙 浏览量:7078发布时间:2022/2/15 11:47:49 经销商选择产品是个系统工程,需要对很多方面综合考虑评估,来确认可操作性,在既往的经验积累、渠道数 ...[详细]
-
发布者:小宁 浏览量:3785发布时间:2023/9/22 13:16:27 根据前瞻研究院数据,我国礼品行业销售收入达到上万亿元规模。我国社会传统的“人情味”依然足以支撑这 ...[详细]
-
2025年安康市学雷锋活动月暨“青年志愿者服务社区行动”示范活动在汉阴举行
3月4日下午,“青春志愿行 奋进新征程”2025年安康市学雷锋活动月暨“青年志愿者服务社区行动”示范活动在汉阴县城关镇西苑社区举办。团安康市委书记卢存安,县委副书记程海林出席活动。县直机关各部门团组织 ...[详细]
-
“双十一”厦门市快递将达2500万件 市邮政管理局应对部署已展开
厦门日报讯记者 许晓婷 黄璜 通讯员 蓝杰斌) “双十一”即将到来,网购大潮即将掀起,快递行业也在全力备战中。日前,市邮政管理局召开“双十一”寄递旺季服 ...[详细]
-
长信科技:稳健触显龙头 开辟5G及OLED蓝海市场,企业新闻
带领一体屏技术递进,打造HOVM头部手机客户群高等旗舰手机模组市场。公司一直致力于面板终端产品应用的研发,带领手机一体屏技术的更新迭代,开启刘海屏、滴水屏、盲孔屏等一体屏技术递进之路,向华为提供高等L ...[详细]
-
厦门生物医药入选“国家级”名单此次被纳入全国首批国家战略性新兴产业集群,将迎来新的发展机遇特宝生物创新药物生产车间里,工作人员在认真进行科研。海峡网11月11日讯 海西晨报记者 ...[详细]