芯片制造商英伟达推出了一款新的人工智能芯片,用于加速计算,并处理世界上最复杂的生成人工智能工作负载,涵盖大型语言模型、推荐系统和矢量数据库。
英伟达表示,下一代GH200 Grace Hopper平台基于全球首款HBM3e处理器的新型Grace Hoppper超级芯片,该芯片将提供多种配置。
英伟达CEO黄仁勋在声明中表示:“新的GH200 Grace Hopper Superchip平台提供了卓越的内存技术和带宽,以提高吞吐量,能够连接GPU以毫不妥协地聚合性能,以及可以轻松部署在整个数据中心的服务器设计。”
新平台使用Grace Hopper Superchip,可以通过Nvidia NVLink与其他超级芯片连接,使他们能够协同工作,部署用于生成AI的巨型模型。这种高速、连贯的技术使GPU能够完全访问CPU内存,在双重配置时可提供1.2TB的快速内存。
英伟达表示:“HBM3e内存比目前的HBM3快50%,总共提供10TB/秒的综合带宽,使新平台能够运行比前一版本大3.5倍的型号,同时提高性能,将内存带宽提高3倍。”
英伟达预计将在2024年第二季度交付基于该平台的系统。