投稿须知
请将投稿文章及个人信息(作者、用户名、手机号、个人简介等)发送到邮箱tougao@iyiou.com,一经审核会有专人和您联系
我知道了
专栏申请
请将您的专栏名称、手机号、邮箱、个人简介(20字以内)等信息,发送至邮箱 tougao@iyiou.com,若有已投稿的文章可附上链接。一经审核,我们会以邮件的形式进行回复。
我知道了

4万亿大模型芯片市场,跑出中国王牌组合

原创 汽车出行
作者:郭怀毅
昨天 23:05
物理AI时代,Momenta与新芯航途的联盟正在抢占大模型芯片市场的先机。而高盛在一份研报中判断,2030年,中国AI大模型芯片的市场规模有望达到6780亿美元,约合人民币4.5万亿元。

“让大模型定义芯片,让芯片承载大模型的下一次进化。”

近期,新芯航途CEO李宗霖这样阐述公司发展的基本理念,即从真实应用中的模型需求出发,倒推芯片架构,重新组织计算、存储和数据流转。尤为关键的是,新芯航途从芯片定义阶段就与算法团队共同研究模型架构和关键算子,为未来几年的模型演进提前做好准备。

作为这一理念的量产成果,新芯航途正式发布了大模型芯片——X7 Ultra。

公开数据显示,在仅八个月的量产时间里,X7 系列Ultra芯片的累计出货辆出货量已超20万颗,搭载10款量产车型,并获得超过40款车型订单。 

新芯航途CEO李宗霖

如此成功的商业化起步,背后有着关键伙伴Momenta的鼎力支持与赋能。

据悉,早在2022年,Momenta与新芯航途就达成了“让大模型定义芯片”的共同判断进而付诸行动。双方从芯片定义阶段起围绕模型架构和关键算子共同研究,从功能设计到验证在流片前全部完成,完成了21天的适配纪录。

正是在这样的协作之下,让X7 Ultra芯片具备了极强的产品力。

据悉,新芯航途X7 Ultra芯片的大模型算力高达700 TOPS,这是基于真实量产智驾大模型评测,并以量化部署后模型输出与训练后FP32浮点模型的相似度达到99.99%以上为约束,让芯片优化直接面向量产要求与驾驶体验。

在高算力的基础上,为了进一步释放X7 Ultra芯片的潜能,新芯航途还做了六项工作,进一步放大了X7 Ultra芯片的性能。

Momenta CEO 曹旭东

第一,新芯航途研发团队专为大模型设计了超大核NPU。顺应模型计算集中化趋势,将传统小核之间百GB/s级的数据交互,聚合至超大核内部TB/s级的高速互联,实现带宽数量级提升。同时,为关键算子配置高精度专用加速引擎,让计算与数据交互更高效,让算子执行又快又准。

第二,硬件并行度解锁。通过底层软硬协同,让更多计算单元同时工作,并使计算与权重加载并行,减少等待,充分释放硬件能力。基于量产智驾大模型实测,X7 Ultra NPU计算利用率达到98.7%。

第三,AI工具链重构。通过整网级融合,对整个模型的计算任务统一编排与优化,减少中间结果反复读写外部内存。结合全新NPU架构与硬件并行能力,X7 Ultra释放700 TOPS大模型算力,内存带宽消耗较行业旗舰产品下降80%,能效提升100%。

第四,中国首发量产Armv9车规级CPU。承担复杂控制与系统调度,提升多核协作能力,让整颗芯片高效协同,支撑持续演进的智驾系统。

第五,深度异构计算。通过专用计算单元实现本地任务、本地处理,激光雷达处理带宽最高达2000万点/秒,传感器预处理稳定性提升100%,为系统及时、稳定响应提供支撑。

第六,软硬兼备的安全能力。X7 Ultra满足ISO 26262 ASIL-B功能安全要求,内置MCU通过ASIL-D认证,同时以高效算力与模型迭代空间支撑行驶安全,为智驾系统系好安全带。

在芯片性能之外,Momenta与新芯航途的深度协作,更有可能为二者抢占物理AI时代的先机。

物理AI时代的「新联盟」

苹果公司创始人乔布斯(Steve Jobs)非常喜欢引用美国计算机科学家阿伦·凯(Alan Curtis Kay)的一句名言:

对软件极度较真的人,应该自己打造硬件。

从Macintosh电脑开始,再到划时代的iPod和iPhone、iPad,苹果一直坚持系统与硬件的垂直整合。最终,苹果自研了A系列和M系列芯片并搭载于iPhone和Mac等明星产品上,实现从芯片到OS操作系统的终极垂直整合,以最大程度发挥二者的性能。 

这个但是从PC时代到智能手机时代,能够做到从系统到芯片整合到企业凤毛麟角。   相反,在这两个时代中占据绝大部分市场份额的是两大联盟,前者是微软与英特尔,后者是安卓与ARM。

这两大联盟能够统治市场,靠的就是批次之间的紧密协作。

以WinTel联盟为例,英特尔为了能够帮助微软最大程度发挥Windows操作系统的性能,甚至会让微软提前了解奔腾芯片的性能参数。而Windows操作系统的庞大市占率,又翻过来巩固了奔腾芯片在PC时代的统治地位。

在物理AI时代,类似的故事注定会再次上演。

在10月29日发布会的圆桌论坛环节,图灵奖得主Jack Dongarra教授表示,让算法、软件与芯片团队在设计定型前紧密协作,是面向大模型时代,更加行之有效的研发方式。 

图灵奖得主Jack Dongarra(左二) 

Momenta与新芯航途已经展现出了这种深度协作的能量,基于X7 Ultra的支撑,R7 Ultra的模型参数规模扩大5-10倍,安全性能提升5-10倍以上,推动世界模型从“理解世界”走向“推演世界”。

如前文所述,新芯航途X7 Ultra芯片的出货量仅用八个月就达到20万颗,这依靠的是Momenta在中国辅助驾驶市场巨大的统治力。

公开数据显示,Momenta已与全球前十大车企均建立了合作。截至目前今年7月,量产业务搭载规模更是突破140万辆。

根据规划,Momenta的累积定点车型已经超过240款,其中已经交付的车型超过120款。也就是说,还有超过120款车型有可能搭载新芯航途的AI芯片。

在Momenta的定点客户之外,新芯航途也有可能收获的新的客户增量,这无疑又是一重市场空间。 

据悉,新芯航途的累计融资金额已经接近50亿元人民币,在近期的一笔最新融资中,欧洲车企巨头雷诺集团首次投资,奇瑞汽车则追加投资,长鑫科技入股。

其中,雷诺集团正是Momenta此前未曾覆盖的整车客户。

在物理AI方兴未艾之际,Momenta与新芯航途基于“大模型定义芯片”的深度协作,既能够最大程度发挥Momenta算法的能力,又可以充分挖掘新芯航途大模型芯片的潜能,在充分发挥两家企业优势的情况下,抢占物理AI产业的制高点。

这就正如曹旭东所言,围绕规模化L4目标,Momenta认为既要通过数据驱动解决长尾问题,通过规模量产获得海量数据。

同时,唯有从大模型需求出发定义芯片,才有可能在上述约束下支撑千亿参数模型,实现规模化L4,并进一步推动机器人及更多物理AI应用取得突破,而这需要Momenta与新芯航途工作的努力与协作。

本文来源于亿欧网,原创文章,作者:郭怀毅。
转载或合作请联系 hezuo@iyiou.com,违规转载法律必究。
文中涉及数据均已标明来源,如需数据服务可访问 亿欧数据 。 如您有「项目报道」或「项目对接」需求,请填写表单,我们将尽快与您取得联系。
本文经授权发布,版权归原作者所有;内容为作者独立观点,不代表亿欧立场。如需转载请联系原作者。
MOMENTA中国芯片