欢迎进入人工智能+物联网-人工智能人力资源服务股份有限公司官方网站!
新闻动态
为广大企业提供更加轻便、高效、经济的人力资源服务
英伟达CFO: AI基础设施市场规模有望达到2万亿美元英伟达不仅仅是硬件公司半岛BD体育
发布时间:2024-03-06 23:05
  |  
阅读量:

  英伟达CFO Colette M. Kress在刚刚召开的2024年摩根士丹利TMT大会上表示,看到了AI和加速计算的巨大商业潜力,预计AI基础设施市场规模将远不止现在的1万亿美元。她说,

  Kress表示,英伟达不仅仅将自己定位为一个提供AI芯片的硬件公司,而是一个为数据中心提供整体加速计算解决方案的公司半岛BD体育。

  随着更多产品的推出,英伟达的毛利率可能会回落到75%左右的水平,这是因为公司目前处于H100推动增长期后的产品多样化阶段。

  针对推理业务贡献公司40%收入的疑问,Kress说,英伟达拥有庞大的推荐引擎和搜索基础,考虑到生成式人工智能正处于早期发展阶段,公司推理业务将会持续增长。

  数据中心之外,英伟达还将目光转向了个人电脑和工作站。Kress表示,未来模型不仅能存在于云中,笔记本上也能部署较小的LLM。

  半岛BD体育

  Kress还提到,英伟达正将产品创新周期从2年缩短至约1年,这种程度的加速不仅是竞争对手难以匹敌的优势,也是公司为未来潜在的加速创新做准备。

  (加速计算)的变革即将到来。这种变革是关键的,因为摩尔定律已经走到了尽头。新的平台将有必要推动加速计算,并可能在未来几十年内与我们同在。

  每个季度,我们都有同样一个任务,那就是为客户增加供应,我们做到了这一点。即使进入今年,我们也会继续这种做法。

  半岛BD体育

  随着我们未来将推出更多种类的产品,可能会回到H100推出前的水平,即毛利率在75%左右。我认为这是个合理的水平

  确实有很多被浪费的电力。这些浪费的电力曾被用于低效的数据中心建设,可能需要彻底重建。

  当你考虑到下一代产品的可用性,以及供应可能会紧张时,但同时也要考虑认证周期时,最棒、最先进的产品仍然是H100。

  在全新的隐私时代,营销需要进行全面重塑,这里推荐引擎扮演着非常关键的角色。搜索也是另一项非常重要的工作......生成式人工智能才刚刚开始。我们拥有庞大的推荐引擎和搜索基础,基于定义,推理可能会持续增长。

  模型可能不仅存在于云中。电脑、笔记本电脑中可能会有一个较小的模型。某些创意工作者可能会在他们的工作站中建立一个单独的模型。

  ...我们将架构周期从2年缩短到1年...但即使在同一架构内,我们现在也有能力推出其他关键产品,以满足市场的某些需求。H200就是一个例子,它是在H100的基础上构建的。

  即便只是考虑将现有的1万亿美元基础设施转型,对我们来说这就已经是一个1万亿美元的机会。而且,AI在加速计算中的应用,不仅可以提高效率,还能创造新的价值,市场规模可能会超过现有基础设施.....黄仁勋在一次路演中提到,市场规模可能接近2万亿美元,不仅仅是1万亿美元。

  在我们看来,英伟达不仅是一个提供加速器的(硬件)公司,而是一个致力于数据中心加速计算的公司。因此,我们相信市场潜力更大。