当前位置:首页 > DeepSeek技术交流 > 正文内容

使DeepSeek模型推理加速150%,摩尔线程首次提出“AI工厂”|直击WAIC 2025

3个月前 (07-26)DeepSeek技术交流343

"AI工厂如同芯片晶圆厂的制程升级,是生产智能的系统性变革。摩尔线程CEO张建中提出,通过全功能GPU和五大技术竞争力构建新一代AI训练基础设施,其MTT S5000 GPU已实现DeepSeek R1推理加速150%,推动AGI时代模型生产效率革命。"

内容由AI智能生成

有用

摩尔线程创始人、CEO张建中

继英伟达之后,国产通用GPU公司摩尔线程也要发力“AI工厂”理念。

7月26日消息,2025世界人工智能大会(WAIC)期间,摩尔线程创始人兼CEO张建中宣布,为应对生成式AI爆发式增长下的大模型训练效率瓶颈,公司将通过系统级工程创新,构建新一代AI训练基础设施,致力于为AGI时代打造生产先进模型的“超级工厂”。

张建中表示,除了语言模型之外,所有人都在把模型能力拓展到多模态和世界模型,甚至于具身智能和三维空间里的模拟仿真,它需要大型AI计算基础设施,但要想建立大型基础设施的难度就好比建一个Foundry(晶圆厂)一样,所以他称之为“AI工厂”(AI Foundry)。Foundry是生产芯片的,而AI Foundry是生产智能的,而摩尔线程提出的“AI工厂”,如同芯片晶圆厂的制程升级,是一个系统性、全方位的变革,需要实现从底层芯片架构创新、到集群整体架构的优化,再到软件算法调优和资源调度系统的全面升级。其中,基于Triton-MUSA编译器 + MUSA Graph,基于“平湖”架构的MTT S5000 GPU可实现DeepSeek R1推理加速1.5倍(150%)。

张建中强调,我们正迎来前所未有的生成式AI技术变革,而大模型的发展非常“卷”,从DeepSeek V3发布以来,短短半年,全球前沿模型DeepSeek的“智力”水平提升50%,远超人类智力水平的增长速度。

“这是一件很可怕的事情,首先我们不要跟模型斗,要把它用好,它是你的Agent,你不能变成它的Agent。短短几个月,Grok 4直接飙到世界第一,马斯克只有一个秘诀,就是买了20万张GPU卡,所以它可以‘卷’成世界第一,用很少的人力,但用强大的财力、强大的算力,所以就是靠算力推动智力的革命。”张建中称。

据悉,摩尔线程成立于2020年6月,以全功能GPU为核心,致力于向全球提供加速计算的基础设施和一站式解决方案。摩尔线程创始人兼CEO张建中曾任英伟达全球副总裁、中国区总经理,在GPU这一行业已经深耕近二十年。

成立以来,摩尔线程以自主研发的全功能GPU为核心,致力于为AI、数字孪生、科学计算等高性能计算领域提供计算加速平台,公司已推出四代GPU架构,其芯片采用先进MUSA技术,并拓展出覆盖AI智算、云计算和个人智算等应用领域的计算加速产品矩阵,满足政务、企业及个人消费者等多层次、多样化需求。

启动IPO之前,摩尔线程已经完成了多轮融资,整个融资规模超过40亿元。投资方包括中国移动、深创投、上海国盛、中银国际、建银国际、招商局创投、中关村科学城、红杉资本等基金和机构。最近一轮投前估值246.20亿元。

业务方面,基于自主研发的MUSA架构,公司成功开发出支持 AI 计算加速、图形渲染、物理仿真和科学计算、超高清视频编解码等多场景的全功能GPU芯片。公司四年推出四代GPU芯片架构、四颗GPU芯片系列——苏堤、春晓、曲院和平湖,流片成功/发布时间分别是2021年、2022年、2023年和2024年,覆盖 AI 智算、专业图形加速及桌面级图形加速等领域,主要生产方式包括板卡/模组、一体机、集群设备等,客户包括百度(北京百度网讯科技有限公司)、京东平台、中国邮电器材集团等多家头部公司。

2022年,摩尔线程推出国产游戏显卡MTT S80,被誉为“国产游戏第一卡”,也是国内极少数可以支持DirectX 12的消费级显卡。此外,在数据中心GPU部分,摩尔线程还发布了MTT S4000、S5000等多款计算卡,并拥有千卡智算集群、自有的万卡集群方案。

招股书中显示,MTT S80显卡性能规格与英伟达RTX 3060相当,公司在两年时间内先后完成24版驱动更新,显卡性能表现提升数倍,成功兼容近千款游戏和应用。

目前,摩尔线程已成功自主研发并量产第四代高性能 GPU 架构“平湖”,并基于此推出了十余款高性能GPU加速卡与模组,以及D800计算服务器和KUAE智能计算集群等产品,构建了包含芯片设计、硬件产品及软硬件一体化解决方案的全方位自主可控产品体系。

据悉,最新采用“平湖”架构的摩尔线程MTT S5000加速计算卡对标英伟达H100产品,其FP8计算能力适合对DeepSeek-V3/R1 MoE大模型进行训练。

如今,基于通用GPU的全方位的自主可控产品体系,张建中提出了摩尔线程更大的“野心”:AI工厂(AI Foundry)。

事实上,英伟达最先提出了“AI工厂”(AI Factory)这一概念,原因在于,英伟达认为与传统数据中心不同,AI工厂不仅存储和处理数据,还能大规模生产智能,将原始数据转化为实时洞察,对于世界各地的企业和国家而言,这意味着显著缩短价值实现时间,将AI从一项长期投资转化为提升竞争优势的直接驱动力,从而让企业未来将在创新、效率和市场差异化方面引领行业。

那么,在“AI工厂”设计中,英伟达提供强大的计算性能、高级网络、基础设施管理和工作负载编排、最大的AI推理生态系统、存储和数据平台、设计和优化蓝图、参考架构、为每个企业提供灵活部署等完整、集成的 AI 工厂堆栈,其中从芯片到软件的每一层都针对大规模训练、微调和推理进行了优化。这种全栈式方法确保企业能够部署经济高效、性能卓越且面向未来的 AI 工厂,以应对 AI 的指数级增长。

黄仁勋曾提到,借助基于英伟达Blackwell Ultra 的GB300 NVL72机架级解决方案,AI 工厂可实现高达 50 倍的 AI 推理输出。

相比英伟达的“AI工厂”理念,摩尔线程“AI工厂”(AI Foundry)的核心在于基于全功能GPU通用算力,以系统化创新和工程化的能力提升先进模型生产效率。

在张建中看来,打造AI工厂,摩尔线程主要拥有五个技术竞争力:1、拥有全功能GPU,功能完备精度完整,实现加速计算通用性;2、自研MUSA架构,提升芯片有效算力;3、MUSA全栈系统软件,提升单节点计算效率;4、自研KUAE大规模集群,优化集群效率;5、零中断容错技术,提升集群的稳定性和可靠性。

数据显示,基于第四代“平湖”架构,摩尔线程的AI加速系统(TCE/TME)全面支持INT8/FP8/FP16/BF16/TF32等多种混合精度计算,在保证计算精度的同时,将Transformer计算性能提升约30%;内存系统方面,实现了50%的带宽节省和60%的延迟降低;独创的ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽;核函数启动时间缩短50%;GEMM算子算力利用率达98%,Flash Attention 算子算力利用率突破95%;MCCL通信库实现RDMA网络97%带宽利用率;将百GB级备份恢复时间从数分钟压缩至1秒,提升GPU有效算力利用率。

张建中表示,依托AI工厂,摩尔线程成功构建起覆盖“训练-推理-部署”全流程高效体系,从图形渲染基石到AI算力引擎,摩尔线程以“KUAE+MUSA”为智算业务核心,加速赋能千行百业,推动全功能GPU驱动的AI技术在物理仿真、AIGC、科学计算、具身智能、智能体、医疗影像分析、工业大模型等关键领域的应用与部署。

这意味着,国产计算基础设施已具备支撑AGI(通用人工智能)时代规模化、高效率、高可靠模型生产的关键能力。

当前摩尔定律收入、研发费用不断增加。招股书显示,2022年、2023年、2024年,摩尔线程营业收入分别为0.46亿元、1.24亿元、4.38亿元,三年营业收入复合增长率208.44%,累计营收6.09亿元;三年研发费用分别为11.16亿元、13.34亿元、13.59亿元,累计研发费用超过38亿元。


“使DeepSeek模型推理加速150%,摩尔线程首次提出“AI工厂”|直击WAIC 2025” 的相关文章

DeepSeek月均下载量骤降72.2%,豆包领跑AI应用榜

DeepSeek月均下载量骤降72.2%,豆包领跑AI应用榜

来源:福布斯中文网【#DeepSeek月均下载量暴跌# 】#DeepSeek月均下载量降幅达72.2%# DeepSeek光环褪色,其吸引力已经大不如前,从它的下载量就能看出来。QuestMobile...

头部GEO公司即搜AI SEO 以deepseek优化技术助力企业决胜百度AI搜索

头部GEO公司即搜AI SEO 以deepseek优化技术助力企业决胜百度AI搜索

2025年,在生成式AI(AIGC)深刻重塑信息获取方式的时代,企业内容如何在DeepSeek、豆包等AI驱动的搜索结果中获得更高可见性与引用率,已成为数字化竞争的核心议题。现在有数据证明,每7个网购...

第三届链博会黄仁勋:DeepSeek论文写得非常好,月之暗面Kimi也很出色

第三届链博会黄仁勋:DeepSeek论文写得非常好,月之暗面Kimi也很出色

7月17日,在第三届链博会上,英伟达公司创始人兼CEO黄仁勋谈到了中国市场合作伙伴、DeepSeek、月之暗面Kimi等相关话题。此外,贸促会会长任鸿斌还透露,黄仁勋有意继续参加2026链博会。在和阿...

DeepSeek使用率从年初的50%,暴跌至目前的3%!现在很多人甚至淡忘了DeepSeek问世时的辉煌

DeepSeek使用率从年初的50%,暴跌至目前的3%!现在很多人甚至淡忘了DeepSeek问世时的辉煌

格隆汇7月8日|据金融投资报,本来预计今年5月就会更新换代的DeepSeek-R2,时间一拖再拖让人浮想联翩。现在很多人甚至淡忘了DeepSeek问世时的辉煌。其使用率从年初的50%,暴跌至目前的3%...

DeepSeek新手必看解决搜索写作难题实用指南

DeepSeek新手必看解决搜索写作难题实用指南

《DeepSeek实用操作指南》——这可不是一本让你对着屏幕发呆的书,而是香港特别行政区鬼才李尚龙为你量身打造的数字时代生存指南。别看它只有32开的小身板,里面装的可是能让你笑出腹肌的知识量。这本书最...

DeepSeek终于丢了开源第一王座,但继任者依然来自中国

DeepSeek终于丢了开源第一王座,但继任者依然来自中国

DeepSeek终于丢了开源第一王座,但继任者依然来自中国Kimi K2以开源领域榜首、总榜第五的傲人成绩,与顶尖闭源模型Grok 4、GPT 4.5展开激烈角逐——在连续对话能力上独占鳌头,编程与复...