2023年5 月19 日,Ampere宣布推出全新AmpereOne™ 系列处理器,该处理器拥有多达192 个单线程Ampere 核,内核数量为业界高。这是第一款基于Ampere 新自研核的产品,由Ampere 自有IP 全新打造。
Ampere发布新款处理器AmpereOne
AmpereOne系列的诞生旨在以高效的方式满足能耗和功能的需求,从而推动计算的发展更上一层楼。它基于5nm 工艺节点制造,拥有192个单线程Ampere自研云原生核,大型云优化私有缓存,每核有64K的L1数据和2MB的L2缓存。它不但可以为云工作负载提供高的整体性能、可扩展性和密度。同时能够为高性能、高利用率的多用户环境(如云)提高性能一致性、可管理性和安全性。通过增加8通道的DDR5内存和128通道的 PCIeGen5 IO,整个平台实现了扩展。
得益于其192核的数量优势,在性能方面,AmpereOne相比较英特尔和AMD 要高上很多。比如在云环境中运行虚拟机,AmpereOne每机架运行的虚拟机数量是AMDGenoa的2.9倍,是英特尔SapphireRapids的4.3倍。
关于AmpereOne和 AmpereAltra系列之间的关系和区别,在云端负载上,AmpereAltra系列处理器和AmpereOne系列处理器首先大的区别在于规模。对于更大规模,需要更多算力IO、内存以及带宽的云工作负载,AmpereOne是理想选择。Ampere首席产品官JeffWittich 表示:“对于一些要求很高客户来说,他们有极高的算力需求,AmpereOne能够很好地满足这样的需求,比AmpereAltra系列处理器做得更好。“
同时,JeffWittich也强调:“这两个产品系列用于服务不同的客户的需求。全新推出的AmpereOne系列处理器并不是要取代AmpereAltra系列,而是在它的原本的基础之上,进行持续的扩张。” JeffWittich表示,因为AmpereOne系列处理器和AmpereAltra系列的处理器都是基于ARMISA的,在兼容性上也不会存在任何问题。今后,两种系列都将会继续销售,为他们的客户提供服务支持。他希望客户们可以针对不同的环境来选择最合适的产品,比如在算力需求较小的边缘计算场景中,AmpereAltra系列就足够满足客户的需求,而对于一些需求更大算力的客户,比如大规模的数据中心来说,AmpereOne则会成为他们更好的选择。“归根结底,我们的出发点是希望能够满足不同客户的不同需求。”Jeff Wittich总结到。
强大的AI推理能力
目前,整个AI的发展对于数据中心CPU市场都产生了巨大的影响。一直以来,AI都是驱动数据中心算力需求提升的重要引擎之一,而生成式AI则进一步加速了市场对算力的需求。谈到AI工作负载,最常见的有两大场景,第一个是AI训练工作负载,即处理器在大量数据的基础上建立模型;第二个场景就是AI推理,即在完成AI训练的基础上,在应用上去运行模型。而Ampere产品的优势之一正是在于其针对AI推理的设计。
AI训练和AI推理的工作负载有三大主要不同。第一,是就规模而言,AI推理需要更大的规模;第二,是AI推理很有可能在通用服务器上和其他工作负载同时运行;第三,AI推理对速度的要求更高,而且还需要不断地进行大量重复,以向用户快速交付结果。
因此,Ampere提供的产品,不管是AmpereAltra系列处理器还是AmpereOne系列处理器,都非常适用于AI推理,尤其是大规模的云场景。同时,Ampere的产品不只适用于当前常见的大型语言模型,也适用于过去几年相对旧的模型。通过Ampere云原生处理器进行AI推理,可获得卓越的可扩展性和性能,也打破了效率的瓶颈,而这正是令云服务提供商(CSPs)困扰的问题,因为使用GPU会带来极高的能耗,而且容量扩展会受到制约,可部署的服务器数量也会受到限制。而Ampere的云原生处理器通过提供卓越的性能和能效,恰好能够解决这些行业痛点,尤其是对于AI推理来说。
根据Ampere公布的测试数据,在生成式AI方面,在StableDiffusion模型中,AmpereOne比AMDGenoa每秒多提供2.3倍的帧数(图像);在DLRM模型中,AmpereOne比AMDGenoa每秒多响应2倍的查询数。
助力数据中心绿色发展
在现在的云基础设施中,因为云运行的规模极大,所以效率显得尤为重要,低效的云对全球所有人都会产生巨大影响。而在现在的业界中存在的一种理论是,提升计算性能,必然会带来相应甚至更多的能耗。所以可以看到,在需要极高计算能力的大型数据中心,供电、散热、运维等等成本开支会组成其开销当中的很大一部分。由此,同时满足高性能和低能耗就成了数据中心的一大痛点。同时,随着算力需求不断增长,资源问题日益突出,数据中心行业面临的另外一大痛点,可持续性也逐渐明显起来。JeffWittich指出:“打造可持续的云不仅关乎社会责任、企业责任或成本节约,还关乎满足未来所有计算需求的内在能力。”
针对数据中心的需求,Ampere进行了彻底的创新,使用已有的ISA开创了一种新的方法,带来高性能、低能耗的云原生处理器,为构建全面、可预测、可扩展、安全和更好的云奠定基础。采用Ampere Altra 系列云原生处理器,单机架性能可提高2.5倍,能耗减少2.8倍,且仅需占用原来1/3的空间,解决了性能和能效的矛盾,也打破了上文中行业内的传统理论,而借助性能更高,能耗更低的AmpereOne处理器,Ampere的领先优势还将进一步扩大。同时,基于Ampere 云原生处理器所建设的一座数据中心,在一年内减少的碳排放量相当于39,000辆燃油汽车的排放量,或是35,000户家庭的供电量,在可持续性方面也得到了极大的提升。
针对单路服务器的流行趋势,JeffWittich也发表了他的看法,他认为,今后会出现更多的单路服务器,历史上更多的用户选择多路服务器,其实是出于各种各样的限制,算力不足、核数不够,还有内存、IO方面的不足等。而伴随着Ampere处理器这样具备更多的核数、更高的算力、更多的IO、更高的内存的处理器的出现,用户就没有必要再去使用双路服务器,而是可以通过单路来实现更好的解决方案。
采用单路的服务器,复杂程度降低了,而性能却提升了,性价比也更高。JeffWittich 表示:“我们看到许多用户已经基于AmpereAltra系列处理器或是AmpereOne系列处理器实现了从双路服务器到单路服务器的转变。”
引领计算发展的愿景
面对数据中心不断增长的算力需求和电力需求,以及新的计算趋势和可持续发展趋势,Ampere正在推动行业的变革,使计算迈入新的象限。Ampere首席执行官RenéeJames指出,使用传统CPU和更高功率的GPU来推动发展不仅会耗尽支撑未来发展的源动力,还会破坏环境。她呼吁:“我们要选择可持续发展,为实现我们所希望的世界,我们需要首先做出改变。”