用大模型定义芯片!XHEART发布X7 Ultra,L4智驾要爆发?

雷科技AI硬件组 | 编辑:小林同学 | 监制:罗超

如果把时间往前推几年,智能驾驶系统更多还是多个模型各司其职。

感知、预测、规划等环节各自处理不同任务,再把结果交给下一环节,最终完成驾驶决策。

这种方式推动了智驾能力的进步,但随着端到端大模型逐渐走向量产,模型的计算方式变了,需要处理的任务变了,芯片与算法之间的关系,自然也得重新考虑。

10月29日,XHEART新芯航途在苏州举行发布会,正式推出大模型芯片X7 Ultra,算力达到700 TOPS。与此同时还公布了下一代芯片X9的研发目标,计划在2027年推出,目标算力达到3000 TOPS,雷科技与旗下电车通也受邀参与了本次发布会。

图源:电车通摄制

不过,XHEART这次想讲的故事,还不只是芯片算力的提高。

发布会上,CEO李宗霖用一句话概括了公司的技术方向:“让大模型定义芯片,让芯片承载大模型的下一次进化。”


大模型先走一步,

芯片的旧逻辑不够用了

早在2023年创业之初,XHEART就确立了“大模型定义芯片”的技术路线。

与先设计硬件、再让模型适应芯片的做法不同,XHEART选择从真实应用中的模型需求出发,再倒推芯片的计算架构、存储设计和数据传输方式。

这也意味着,芯片团队不能只盯着硬件本身,模型接下来可能怎么发展,哪些计算任务最重要,哪些地方容易成为性能瓶颈,都需要提前考虑。

因此,XHEART从芯片设计阶段就让算法团队参与进来,希望在芯片还没有定型的时候,就把模型运行中可能遇到的问题尽量解决掉。

听起来,这种做法似乎只是把研发顺序调换了一下,但实际操作起来并不简单。

芯片的设计周期比较长,而大模型的迭代速度又很快,如果等模型更新之后再去修改硬件,往往会比较被动。如何提前判断模型的需求,也就成了芯片设计的一部分。

X7 Ultra正是这个背景下的产物。

按照XHEART公布的数据,这款芯片拥有700 TOPS大模型算力。同时,XHEART还将真实量产智驾大模型纳入测试,并要求量化部署后的模型输出与训练后FP32浮点模型的相似度达到99.99%以上。

之所以强调这一点,是因为模型从训练阶段走到车端部署,中间还需要经过量化等处理。如果只顾着提高运行速度,却影响了模型原本的输出表现,那么算力再高,也未必能带来理想的驾驶体验。

所以,对XHEART来说,真正要做的,是让更大的模型能够在车上跑起来,同时尽可能兼顾速度、精度和能耗。

而这也引出了X7 Ultra的另一层看点:除了700 TOPS的算力,它还做了哪些事情,来让这些算力真正发挥作用?

计算、存储、能效,

围绕这个问题,XHEART为X7 Ultra设计了六项核心产品能力。

乍一看,涉及NPU、CPU、工具链、异构计算和功能安全等多个领域,但归根结底其实都是为了解决同一件事,就是怎样让大模型在车端运行得更顺畅。

先说最核心的计算架构。

X7 Ultra采用了专为大模型设计的超大核NPU,按照XHEART的介绍,传统多个小核之间的数据交互通常处于百GB/s级,而超大核内部的高速互联能够达到TB/s级。

除此之外,芯片还为关键算子配置了高精度专用加速引擎,既希望提高计算效率,也尽可能保证模型执行时的精度。

当然,硬件架构设计得再好,也还得看实际运行时能发挥多少能力。

就像一辆车拥有很强的动力,并不意味着每次行驶都能把动力全部用出来。对于芯片来说,如果计算单元需要等待数据,或者不同任务之间无法很好地配合,最终表现也会打折扣。

为了解决这个问题,XHEART对底层软硬件进行了协同优化,让计算任务与权重加载尽可能并行执行,官方公布的量产智驾大模型测试数据显示,X7 Ultra的NPU计算利用率达到了98.7%。

这还不是全部,大模型运行时会产生大量中间数据,如果这些数据反复写入、读取外部内存,也会占用带宽,增加系统开销。

于是,XHEART又对AI工具链进行了调整,通过整网级融合,把模型中的计算任务放在一起进行编排和优化,尽可能减少不必要的数据搬运。

官方数据显示,X7 Ultra的内存带宽消耗较行业旗舰产品下降80%,能效提升100%。这很合理,车上的计算资源终究有限,功耗、散热和成本也都有约束。芯片厂商需要做的,不只是把算力做高,还得尽可能减少运行过程中的浪费。

除了模型计算,芯片还要负责系统控制、任务调度以及各种传感器数据的处理。X7 Ultra因此采用了中国首发量产的Armv9车规级CPU,用来承担复杂控制与系统调度任务。

对于激光雷达等传感器,XHEART则采用深度异构计算方案,通过专用计算单元处理相应任务。按照公司公布的数据,X7 Ultra的激光雷达处理带宽最高达到每秒2000万点,传感器预处理稳定性提升100%。

至于安全能力,X7 Ultra满足ISO 26262 ASIL-B功能安全要求,内置MCU通过ASIL-D认证。毕竟,芯片最后要装进汽车,面对的是复杂多变的道路环境,安全能力自然不能落下。

按照XHEART的说法,通过架构与工具链协同创新,X7 Ultra支持可部署模型参数量实现10倍提升。这意味着,公司希望在车端有限的资源条件下,为更大规模的模型腾出空间。

当然,技术指标说得再漂亮,最终还得看产品能不能真正装车。尤其对于汽车芯片来说,从实验室里的测试结果到稳定量产,中间还有不少关要过。

大模型芯片,

众所周知,汽车芯片的研发,从来都不是一件轻松的事。

芯片流片成功,只能算完成了其中一个环节。后续的软件适配、系统联调、整车验证,每一步都需要时间。即便芯片本身表现不错,如果不能顺利配合车企完成开发,也很难真正进入量产市场。

XHEART在发布会上分享了一组研发进度,首颗X7芯片回片后,不到24小时便完成点亮,主要数据通路全部打通;到了第17天,芯片、底层软件和智驾模型就实现了整车闭环,并在真实道路上接受了测试,覆盖白天、夜晚和暴雨等环境。

从芯片点亮到整车闭环,这样的进度体现了研发团队的工程效率。不过,对一家芯片公司来说,更重要的还是后续交付。

截至10月29日的发布会,X7系列已经量产8个月,累计出货超过20万颗,搭载10款量产车型,并获得超过40款车型订单。

与此同时,XHEART透露基于双X7的L3/L4计算平台已经获得多个车型项目定点。这意味着,随着智驾系统向更高等级发展,XHEART也在尝试将现有的芯片技术延伸到更复杂的应用场景。

在发布会上,Momenta CEO曹旭东首次公开分享了公司的第三个洞察:“大模型定义芯片”。

按照曹旭东的说法,这一判断形成于2022年底,随后由Momenta与XHEART共同推进。他认为,相比通用芯片,大模型定义的芯片性能能够提升10倍,而要实现规模化L4自动驾驶,需要百亿至千亿参数规模的模型。

曹旭东还谈到了智驾能力的提升速度,他表示,大模型芯片正在加速智驾摩尔定律。2022年至2026年,智驾能力每两年提升十倍,推动城市NOA从早期探索走向应用引爆点与加速普及。

而推动这一规律迈向每年十倍提升的关键,是“大模型定义芯片”。曹旭东判断,L3和L4有望于2028年迎来重要引爆点,并在2030年走向规模化落地。

当然,这些判断最终能否兑现,还要看技术成熟度、产品成本以及实际应用场景的发展。但至少从目前的技术路线来看,模型与芯片之间的关系,已经越来越难以分开讨论。

#智驾 #XHEART #Momenta #大模型

End