英伟达偷窥其144核怪物GraceCPUSuperchip
Nvidia提供了有关其即将推出的GraceCPUSuperchip的新信息,这是一款用于加速AI和HPC工作负载的144核服务器处理器。在其在HotChips34上的展示之前,该公司透露该处理器是在TSMC的4nm工艺节点的专用版本上制造的,该版本针对其产品的特定特性进行了调整。
TeamGreen还公布了其NVLink-C2C互连(使双CPU超级芯片成为可能的“桥”)的能效数据,据说它的功耗比PCIe5.0接口低5倍,同时提供高达900GB/s的吞吐量,以及其他基准数据。
GraceCPUSuperchip在今年早些时候的GTC2022上亮相,由两个通过高速NVLink互连连接的GraceCPU组成,其方式类似于Apple的M1Ultra。
结果是一个144核的怪物,具有1TB/s的内存带宽和396MB的片上缓存,Nvidia声称它将成为市场上最快的处理器,适用于从AI到HPC等各种工作负载。
“一种新型数据中心已经出现——处理和提炼大量数据以产生智能的人工智能工厂,”英伟达首席执行官黄仁勋在新芯片首次发布时表示。
“GraceCPUSuperchip在一个芯片中提供了最高的性能、内存带宽和Nvidia软件平台,并将作为世界人工智能基础设施的CPU大放异彩。”
尽管尚不清楚新的超级芯片何时会广泛使用,但英伟达最近透露,它将在2023年上半年推出的一系列新的预建服务器中使用。新系统-来自华硕、技嘉、超微和其他-将基于Nvidia在Computex2022上发布的四个新的2U参考设计。
从云游戏到数字双胞胎、HPC和AI,这四种设计均针对特定用例进行了指定。Nvidia表示,合作伙伴可以轻松修改这些设计,以“利用现有系统架构快速启动主板”
英伟达进入服务器市场将进一步加速基于Arm的芯片的发展,预计将蚕食x86的份额,x86是英特尔至强和AMDEPYC芯片所基于的架构。
云提供商和其他网络巨头开发基于Arm的定制芯片也推动了数据中心采用基于Arm的芯片。事实证明,AWS开发的Graviton系列取得了巨大成功,中国公司阿里巴巴正在开发新的128核CPU,据传微软和Meta也在开发内部芯片。
“多年来,许多初创公司都试图在数据中心做Arm。一开始,早期的价值主张是关于低功耗,但数据中心运营商真正关心性能。这是关于将尽可能多的计算打包到一个机架中,”Arm基础设施高级副总裁ChrisBergey今年早些时候告诉TechRadarPro。
“借助Arm,云提供商发现他们可以获得更多计算,因为他们可以在功率包络中放置更多内核。而我们还只是冰山一角。”