云服务商CoreWeave:英伟达领先业界十年H100芯片年底前买不到

来源:网界网 | 2023-08-10 15:52:17

  云端服务供应商CoreWeave指出,英伟达的高端人工智能(AI)绘图处理器(GPU)H100基本上今年已经买不到了,要等到明年,并解析指出,英伟达目前领先业界十年,短、中期都不会出现重大挑战者。

  全球晶圆代工龙头台积电7月表示,几乎所有芯片产品类别的需求都走弱,只有AI芯片例外,这基本上是指为英伟达代工生产的绘图处理器。 市场对生成式AI的热烈需求,已导致英伟达高阶的H100 GPU供不应求。

  英伟达的产品已成为科技业的最珍贵资源,企业和初创公司都正狂热地把预算优先转向新的AI项目,抢购GPU。 亚马逊网络服务(AWS)CEO Adam Selipsky本周受访时就说,英伟达GPU的需求超过供给。

  虽然AWS对云计算圈的观察很优异,但云服务供应商CoreWeave对AI领域的观察可能更为到位。 创立于2017年的CoreWeave,透过云端提供大规模GPU运算能力给新创公司和规模更大的企业,与英伟达有紧密合作关系,也是第一批把H100带入市场的业者之一。

  CoreWeave共同创办人兼CTO万杜洛最近和巴隆金融周刊聊起GPU技术、市场现况、英伟达的芯片生态系等议题。 CoreWeave是一家特殊云商,未提供网站托管服务,而是专门提供GPU加速运算,给AI、机器学习、实时呈现视觉效果及生物科学研究的大规模用户,这些客户常需要运作庞大的平行运算任务。

  万杜洛指出,今年第1季要在供应链取得GPU配置和运算能力相当容易,但4月初开始,市场变得非常紧俏,出货等待时间在短短一周之内,从合理范围一直拉长到今年底,

  针对如果现在客户想买H100芯片,他说,所有合理规划物流与资源的企业,现在都寻求在明年第1季和第2季买到,CoreWeave已开始为明年第2季和第3季的部署进行采购。

  万杜洛指出,比起AMD和其他云端企业的产品,英伟达的护城河有两方面,其一是硬体,英伟达生产的晶片傲视群雄,其次是软件,对新创公司来说,快速响应市场非常重要,若必须完全重新调整项目所使用的技术,以使用AMD或谷歌的Tensor处理器(TPU),可能会失去抢商机的珍贵时间,

  万杜洛说,英伟达在大幅投资软件程序平台CUDA生态系时,有远见到不可思议的程度,现在基本上领先业界十年,而且不是只有英伟达领先十年,在英伟达生态系内打造产品的客户和开发者皆然,短期、或甚至中期之内都不会有公司超越辉达。 英伟达自有网络InfiniBand降低延迟的解决方案,也是目前业界最佳。

  使用谷歌 TPU和AWS Trainium加速器的问题在于,会被提供非常特定技术解决方案的单一企业绑住,这对初创公司或许不是最佳选择,因为新创公司会希望拥有供应商弹性,确信能在其他地方取得相同的服务。

相关阅读

每日精选