大算力芯片时代下,Arm迎来新风口

大算力芯片时代下,Arm迎来新风口

题图来自Unsplash,基于CC0协议

众所周知,2000年手机移动时代的发展带动了Arm架构的繁荣。随着行业进入由5G、工业互联网、物联网、人工智能等驱动的数字化时代,Arm似乎又再次迎来了“风口”。短短4年内亚马逊云科技(AWS)的定制芯片Graviton系列CPU已经发展到第三代;Ampere宣布每年推出基于Arm架构高核心数服务器CPU;英伟达发布了面向AI及高性能计算 (HPC) 的Grace CPU;VMware运用DPU开展Monterey项目;包括AWS、微软、谷歌、阿里巴巴、甲骨文等主流的公有云厂商都在使用DPU来支撑云工作负载。所有这些都可谓是按需构建的定制化芯片。

一个定制化芯片的时代正在开启。

Arm Neoverse:一个或将颠覆现代计算的架构

当前,全社会数据总量爆发式增长,数据存储、计算、传输、应用的需求大幅提升,对算力的需求也越来越高。CPU不仅需要处理通用计算类任务,还需要承担网络、存储、安全等任务,有效算力在总体算力中的占比逐渐下降,行业亟需在特定领域更高算力的芯片的支撑。而随着Arm Neoverse架构的发布,整个行业迎来了巨变。

2018年Arm首次发布了Arm Neoverse平台。目前,Neoverse平台主要包括三个IP系列:分别是V系列、N系列和E系列。据Arm官网介绍,Neoverse V系列主打极致性能,适合执行高计算需求和存储器密集型应用的系统,主要应用场景包括高性能计算 (HPC)、云计算和AI/ML加速型工作负载;Neoverse N系列主打可高扩展的性能表现,提供均衡的最佳化CPU设计、出色的性能功耗比和性能成本比,应用场景包括可高扩展的云计算、企业连网、智能网卡/DPU以及客制化ASIC加速器、5G基础设施以及电力和空间受限的边缘场景;Neoverse E系列主打高效率吞吐量,在支持高资料吞吐量的同时,大幅降低功耗,主要应用场景包括网络资料层处理器、低功耗网关的5G部署。

图源:Arm官网

可以看出,这三种内核分别针对三种不同的性能和功耗权衡,这就为各行业实现定制化芯片带来了充分且灵活的施展空间。但光有硬件还远远不够,要打造成功的基础架构解决方案,还需要一个强大的软件生态系统。

在软件生态系统方面,Arm不仅在开源社区有着长期且持续的投入,并在Arm Neoverse平台的设计原则中纳入了构建独一无二的开发者生态系统,目的是赋能开发者顺畅地进行创建、测试以及优化在基于Arm架构上的项目开发,如今,Arm架构得到了所有领先编程语言和运行库的支持,例如Linux操作系统、云原生软件、CI/CD流水线等都已经运行在Arm架构上。从架构、IP到技术库、运行环境和编译器,Arm已启用了主流的基础设施软件。

软硬件充分加持下,Arm Neoverse架构正在吸引一众云服务厂商、CPU厂商、GPU厂商、DPU玩家的青睐。

Arm CPU生态初具规模

首先是云服务厂商的躬身试探,公有云无疑是技术革新的最佳领域。对于不同的云服务厂商来说,由于其构建的生态不同,对芯片的性能需求也是各异。在市场选择不大的情况下,各云厂商选择了自研。

AWS可以说是最早开始自研服务器芯片的云厂商。自2018年至今,AWS的Graviton服务器芯片已经来到第三代。2022年5月下旬,AWS发布了基于Neoverse V1核心的Graviton3,这是第一个支持SVE的通用64位Arm服务器CPU。

无独有偶,在2021年10月份的云栖大会上,阿里巴巴旗下半导体公司平头哥发布自研云芯片倚天710,该芯片基于Armv9架构。这是阿里第一颗为云而生的CPU芯片,将在阿里云数据中心部署应用。

除了云服务厂商自研之外,初创公司Ampere Computing在Arm服务器芯片上的探索则为其他云厂商开辟了另一个选择。Ampere Computing是目前唯一一家为云服务提供商提供商用(独立)Arm服务器芯片的CPU公司,Microsoft Azure、谷歌云、甲骨文云等均使用Ampere Altra产品。

Ampere Computing分别于2020年发布80核的Ampere Altra,2021年发布128核的Ampere Altra Max,两者均基于Arm Neoverse N1内核。Ampere还宣布今年晚些时候将推出采用Arm架构的5nm AmpereOne CPU,但并不是基于Neoverse N1,而是基于Arm ISA自研的核心。不过这对Arm来说是一个极好的迹象,因为Ampere将在公司技术和x86服务器处理器之间进一步扩大服务器CPU空间。

云决策者的两大关键指标是单芯片性能和单线程性能。在这方面,Arm预测,使用Arm Neoverse V1核心的AWS Graviton3可提供最高的单线程性能;Ampere Altra Max和阿里的倚天710能在所有CPU中提供最佳的单芯片吞吐量。

云计算场景之外,5G和边缘领域的芯片厂商也开启试水之路。根据GSA数据显示,现在已有近85个市场提供5G服务,预计到2025年,连接设备将达到约18亿。未来的3-5年依然是5G发展和增强功能交付的关键。在这方面,Marvell最近几年放弃通用服务器业务,转而发展垂直市场,其推出的Thunder服务器芯片已经证明了在超算和商用领域的可行性。在世界移动通信大会 (MWC) 上,戴尔与Marvell宣布强强联手;此外,诺基亚也与Arm在基于Neoverse CPU上进行合作,开发了ReefShark芯片组,如今已全面使用。

在高性能计算(HPC)领域,英伟达是一大代表,2022年3月22日,英伟达宣布推出首款面向AI基础设施和高性能计算的基于Arm Neoverse V2的数据中心的定制CPU Grace,它专为AI和HPC应用程序而设计。Grace专注于IO和内存带宽,与GPU共享主内存,通过NVlink将英伟达的GPU和Grace CPU连接,可扩展到现在需要数天才能运行的超大型AI模型。

早在2013年,亚马逊云科技 (AWS) James Hamilton就提出了一项双论点:其一,鉴于使用Arm架构的芯片出货数量,他确信Arm最终一定能设计出优异的服务器CPU;其二,James注意到,随着时间的推移,越来越多的功能逐渐从主板迁移到SoC上。手机领域已现端倪,服务器方面自然也会效仿。

而如今这两个论点正在实现,在一众厂商的大力推动下,采用Arm Neoverse平台的产品已创下了多项行业第一:第一个总内存带宽超过每秒1TB的CPU;第一个单块裸片上能配置超过100个核心的CPU,核心数达到128个;第一个将DDR5和PCIe Gen5.0推向市场的CPU;第一个在SPEC CPU 2017基准测试中打破500整型跑分的CPU。

Arm Neoverse在全球市场表现不菲,不仅是国际大厂,Arm Neoverse也为广大初创企业创造了良好的发展机遇。

国产CPU和DPU初创企业嗅到商机

近年来正值中国基础设施的计算升级新浪潮,因此,国内服务器芯片赛道也迎来了蓬勃兴起。国内一众初创企业如鸿钧微、遇贤微等将Arm Neoverse作为其服务器芯片的创新基础,甚至新兴的DPU企业也开始率先踏上探索之路。

鸿钧微电子是服务器芯片领域新兴的一员。在鸿钧微电子首席执行官沈荣看来:“数据中心的规模越来越大,其占地与体积随之将变得更大,这意味着要花费更多的资金投入,所以性能密度、功耗效率这些指标便显得尤为重要,而Arm Neoverse符合云计算所需的多核解决方案,具有优异的总拥有成本 (TCO) 优势,让我们找到能真正为客户提供具成本效益的整体解决方案。”据悉鸿钧微电子基于Neoverse N2的服务器CPU产品预计将在明年年底面世。

遇贤微电子是一家正在面向中国云计算市场打造弹性云原生服务器CPU的初创公司,采用的也是Neoverse N2平台。遇贤微电子首席执行官罗勇博士表示:“云计算的巨大增长是新一波科技浪潮的趋势,它将会是全球范围内最大的增量市场之一。而且,云计算生态系统已经是个相对成熟的环境,能让像Arm Neoverse这类的新架构来取代x86,最终用户能够从一致性的Arm Neoverse CPU上获益,也可以加速遇贤微电子产品的部署。”

不止是CPU和GPU这两类芯片,DPU芯片厂商也看中了Arm Neoverse的潜力。DPU (Data Processing Unit) 是最近几年新发展起来的一种专用处理器,被称之为数据中心继CPU和GPU之后的“第三颗主力芯片”。目前DPU主流方案亦开始以Arm Neoverse平台为设计基础。Arm基础设施事业部全球副总裁邹挺表示,“我们认为ASIC系统级芯片是普遍的最后DPU目标产品形态,而从能耗和性能的要求上来看,Arm Neoverse平台将是DPU中ASIC系统级芯片方案的最佳选择。”

国内DPU芯片头部企业云豹智能最新的DPU SoC产品上就采用了大量的Arm CPU,尤其是Neoverse CPU与其高性能互连技术。云豹智能首席芯片架构师及联合创始人莫志城指出:“现阶段数据中心正在快速地从以CPU为中心转变为以DPU为中心。云豹DPU不仅要能处理网络控制面和数据面的卸载,具备高度灵活和可编程能力;同时必须非常高效地处理运维和业务管理。因此我们的可编程DPU必须依赖非常高性能且低功耗的CPU,例如新一代的Neoverse。”据悉,云豹这款DPU产品预计于2023年初流片。

可以看出,由于高性能、低能耗、优异的性能比以及总拥有成本等特点,尤其是完善的自身生态,Arm架构正在吸引广大中国初创芯片企业的涌入,生态“朋友圈”逐渐扩大。另一方面,如Arm Neoverse这样的平台也为这些初创企业提供了很好的发展机会,并在加速芯片进入市场的时间窗口,如上文所述,国内几家初创企业基于Arm Neoverse的产品大多将于明年问世。

总结

全球基础设施领域的建设和升级兴起了新的浪潮,基础设施的未来必将改头换面,定制芯片将是这一变革必需的产物,未来十年,Arm架构的CPU进军智能计算市场已呈不可阻挡之势。这对所有人来说都是一个巨大的机会,处于产业链上的国产芯片企业应该乘着发展的东风,奋力前行。

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。

原文链接:https://36kr.com/p/1981005586367746

本文地址:https://www.cknow.cn/archives/3675

以上内容源自互联网,由百科助手整理汇总,其目的在于收集传播生活技巧,行业技能,本网站不对其真实性、可靠性承担任何法律责任,如有侵权请联系删除。特此声明!

题图来自Unsplash,基于CC0协议