点击收听英伟达2023Q3业绩电话会回放 $英伟达(NVDA)$
维韦克艾莉亚
我认为上个季度,您给我们的游戏业务销售率约为每季度 25 亿美元。我想你说中国比较弱。所以,我希望你能告诉我们目前游戏的销售率是多少。然后,Jensen,你的问题。很多人担心大型超大规模企业会削减开支并指出经济放缓。因此,假设明年美国云资本支出持平或略有下降,您认为您的业务在数据中心仍然可以增长吗?为什么?
科莱特克雷斯
让我首先从我们游戏业务的销售情况开始。我们曾表示,如果将两个季度放在一起,我们将看到约50 亿美元的正常营业额。现在,在本季度,第三季度的销售量相对稳定。我们已经表示,尽管中国的封锁继续进行,挑战我们的整体中国业务,但它仍然相对稳固。笔记本电脑的销售量也相当稳固,而台式机的销售量则略微疲软,尤其是在中国和亚洲地区。不过,随着我们进入第四季度,受即将到来的假期以及 Ada 的持续采用的推动,我们预计终端需求会更强劲
Jensen Huang
Vivek,我们的数据中心业务与两个基本动态相关。第一个与不再扩展的通用计算有关。因此,需要加速以达到成本效率规模和能源效率规模的必要水平,这样我们才能在省钱省电的同时继续增加工作量。随着通用计算变慢,加速计算通常被认为是前进的道路。第二个动力是人工智能。我们看到一些非常重要的 AI 领域的需求激增,以及 AI 的重要突破。一个叫做深度推荐系统,它现在对于向使用手机之类的设备或仅使用语音与计算机交互的人推荐最好的内容、项目或产品来说是非常重要的。你需要真正了解自然,
第二个与大型语言模型有关。这是 - 这始于几年前 Transformer 的发明,它导致了 BERT,导致了 GPT-3,这导致了现在与之相关的一大堆其他模型。我们现在有能力学习各种语言的表征。它可能是人类语言。它可能是生物学的语言。它可能是化学语言。最近,我刚刚看到一个名为基因 LM 的突破,这是学习人类基因组语言的第一个例子。
第三个与生成人工智能有关。你知道,前 10 年,我们一直致力于感知 AI。现在,感知的目标当然是理解上下文。但 AI 的最终目标是做出贡献,创造一些东西来生成产品——现在是生成 AI 时代的开始。你可能到处都看到它,无论是生成图像、生成视频还是生成各种文本,以及增强我们的性能以提高我们的性能以提高生产力以降低成本并改进我们所做的一切的能力。不得不说,生产力真的比以往任何时候都重要。
因此,您可以看到我们公司与两件事相关联,这两件事比以往任何时候都更加重要,即能源效率、成本效率,当然还有生产力。这些事情比以往任何时候都更重要。我的期望是,出于这些原因,我们会看到对人工智能的所有强劲需求和激增需求。
CJ缪斯
您现在开始使用 H100 捆绑 NVIDIA AI 企业版。我很好奇你能否谈谈我们应该如何考虑软件货币化的时机?我们应该如何通过模型来看待这种流动,特别是关注 AI Enterprise 和 Omniverse 方面的事物?
Jensen Huang
我们在 NVIDIA AI Enterprise 方面取得了长足的进步。事实上,您可能已经看到我们在本季度发布了多项与云相关的公告。你知道 NVIDIA 拥有丰富的生态系统。多年来,我们丰富的生态系统和我们的软件堆栈已融入各种开发人员和初创企业。但更重要的是——我们比以往任何时候都更处于云层的临界点。这太棒了,因为如果我们能够将 NVIDIA 的架构和我们的完整堆栈应用到每一个云中,我们就可以更快地接触到更多的客户。本季度,我们宣布了几项举措,其中一项 - 有多项合作伙伴关系和合作,我们今天宣布的一项与微软和我们在那里的合作伙伴关系有关。
与我们交谈的每家公司都希望拥有云的敏捷性和规模、灵活性。因此,在过去一年左右的时间里,我们一直致力于将我们所有的软件堆栈迁移到云端——我们所有的平台和软件堆栈都迁移到云端。所以今天,我们宣布微软和我们自己将在 NVIDIA 堆栈上进行标准化,这是我们共同开展的大部分工作,以便我们可以将完整的堆栈应用于全球企业。这就是包括的所有软件。
一个月前,我们宣布了与 Oracle 的相同类型的合作伙伴关系。您还看到,高性能计算云领域的领导者 Rescale 已将 NVIDIA AI 集成到他们的堆栈中。Monite 已集成到 GCP 中。我们最近宣布了 NeMo 大型语言模型和 BioNeMo 大型语言模型,以将 NVIDIA 软件置于云端。我们还宣布 Omniverse 现在可在云端使用。所有这一切的目标是将 NVIDIA 平台全栈软件转移到云端,这样我们就可以更快地吸引客户,并且客户可以使用我们的软件。如果他们想在云中使用它,则按 GPU 实例小时计算;如果他们想在本地使用我们的软件,他们可以通过软件许可等方式来实现——许可和订阅。所以,在这两种情况下,
与我们合作的合作伙伴对此非常兴奋,因为 NVIDIA 丰富的生态系统是全球性的,这可以为他们和我们自己带来新的消费到他们的云中,而且还将所有这些新机会连接到其他 API 和其他服务他们提供的。因此,我们的软件堆栈正在取得巨大进步。
身份不明的分析师
想知道您是否可以更多地说明本季度的库存费用以及一般的内部库存。在文档中,您谈到这是手头库存的一部分加上一些采购义务。你还在准备好的发言中说,其中一些是由于中国数据中心造成的。所以,如果你能澄清这些指控中的内容。然后一般来说,对于您的内部库存,是否还需要进行处理?如果需要在接下来的几个季度内解决这个问题,会有什么影响?
科莱特克雷斯
正如我们在准备好的评论中强调的那样,我们在本季度内为库存储备登记了 7.02 亿美元。其中大部分,主要是所有这些都与我们的数据中心业务有关,只是由于对中国的预期需求发生变化。因此,当我们查看数据中心产品时,其中很大一部分也是我们记下的 A100。
现在看看我们手头的库存和增加的库存,其中很多只是由于我们即将上市的架构,我们的 Ada 架构,我们的 Hopper 架构,甚至更多是因为我们的网络业务。我们一直在构建这些架构以推向市场,这样说。我们总是在每个季度末查看我们的库存水平,以了解我们未来的预期需求。但我认为我们做得很好,至少在本季度只是基于对未来的预期。
蒂莫西·阿库里
第一,数据中心指引中的囤货有没有影响?我问是因为您现在拥有的 A800 是 A100 的改良版,具有较低的数据传输速率。因此,可以想象客户可能会在仍然可以买到的情况下囤积这种产品。我想第二部分与库存费用有关,你能再多谈谈吗?因为上个季度,你收取费用是有道理的,因为收入比你想象的要少,但收入几乎符合预期。听起来中国是网络中立的。那么,收费是否与 A100 库存下降得更快有关?这与收费有关吗?
科莱特克雷斯
我们看到的大部分数据中心业务都是与客户合作,专门满足他们构建加速计算和人工智能的需求。就为此持有单位而言,这不是一项业务。它们通常是我们看到的四个非常非常具体的产品和项目。所以,我要回答不,我们看不到任何东西。
你关于库存规定的第二个问题。上个季度末,我们开始看到中国经济疲软。我们一直在关注我们的长期需求。如您所见,这不是关于当前季度库存的声明。我们通常需要两到三个季度的时间来构建满足未来需求的产品。所以,这始终是我们订购的库存的情况。因此,现在看看我们在中国持续的封锁、持续的经济挑战方面所看到的情况,是时候认真审视我们认为未来数据中心需要什么,而不是导致我们的减记。
斯泰西·拉斯根
听起来数据中心可能有一些中国软性问题。你说游戏恢复连续增长。但是你说公司的连续增长是由汽车、游戏和数据中心驱动的。如果整体指导有点持平,这三者怎么能依次增长呢?它们都只是增长了一点点,还是其中之一实际上下降了?鉴于该评论,我们如何看待进入第四季度的细分市场?
科莱特克雷斯
关于从第三季度到我们为第四季度提供的指导的顺序。正如我们在指导方面看到的数字,你是对的,只增长了大约 1 亿美元。我们已经指出,其中三个平台可能会略有增长。但我们认为我们的专业可视化业务将持平并且可能不会增长,因为我们仍在努力纠正渠道库存水平,以达到正确的数量。很难说哪个会增加。但同样,我们正计划让所有这三个不同的市场平台增长一点点。
马克·利帕西斯
我想对你来说,你已经阐明了数据中心的愿景,我认为,在该愿景中,为所有工作负载或大多数工作负载部署了具有 CPU、GPU 和 DPU 集成解决方案集的解决方案。您能否给我们一种感觉——或者谈谈这种愿景在渗透周期中的位置?或许可以谈谈 Grace——Grace 对于实现该愿景的重要性,Grace 与现成的 x86 相比将交付什么,您是否知道 Grace 将在该愿景中首先或最快被接受的地方?谢谢你。
Jensen Huang
Grace 的数据移动能力出类拔萃。Grace 还与我们的 GPU 保持内存一致,这允许我们的 GPU 将其有效 GPU 内存、快速 GPU 内存扩展 10 倍。如果没有在 Hopper 和 Grace 以及 Grace 架构之间设计的特殊功能,这是不可能的。因此,它的设计——Grace 专为以非常高的速度处理非常大的数据而设计。这些应用程序与——例如,数据处理与推荐系统相关,它一次处理数 PB 的实时数据。都是热的。这一切都需要快速,以便您可以在几毫秒内向使用您服务的数亿人提出建议。它在人工智能训练、机器学习方面也非常有效。因此,这类应用程序真的很棒。
我想我之前说过我们将在第一季度提供生产样品,而且我们仍在按计划进行。
哈兰苏尔
你们的数据中心网络业务,我相信,正在推动每季度约 8 亿美元的销售额,在过去几年中非常非常强劲的增长,正如你们指出的那样,短期内,团队正在推动强大的 NIC 和 BlueField 附加到您自己的计算解决方案(如 DGX)和更多合作伙伴公告(如 VMware)。但我们也知道,网络在很大程度上受到通用云和超大规模计算支出趋势的影响。那么,未来几个季度网络业务的知名度和增长前景如何?
Jensen Huang
首先,感谢您的提问。如您所知,我们的网络与高性能计算密切相关。我们不是——我们不为绝大多数商品网络提供服务。我们所有的网络解决方案都非常高端,专为移动大量数据的数据中心而设计。现在,如果您现在拥有一个超大规模数据中心,并且正在部署大量人工智能应用程序,那么您提供的网络带宽很可能会对数据中心的整体吞吐量产生重大影响。
因此,他们在高性能网络上所做的小额增量投资坦率地转化为在供应服务方面节省数十亿美元或吞吐量增加数十亿美元,从而增加了他们的经济效益。
因此,如今,通过分解和 AI 应用程序AI 供应和数据中心,高性能网络真的非常棒,它会立即收回成本。但这就是我们专注于高性能网络和提供人工智能服务的地方我们关注的人工智能应用程序。
您可能已经注意到 NVIDIA 和 Microsoft 正在构建世界上最大的 AI 基础设施之一。它完全由 NVIDIA 的 InfiniBand 每秒 400 GB的网络提供支持。这样做的原因是因为该网络会立即收回成本。你要投入基础设施的投资是如此巨大,如果你被慢速网络拖累,显然,整体基础设施的效率不会那么高。因此,在我们关注的地方,网络真的非常重要。
这可以追溯到我们首次宣布收购 Mellanox 时。我想当时,他们每个季度大约做几亿美元,大约一个季度 4 亿美元。而现在,我们正在做他们过去在一年内所做的事情,实际上是在一个季度内完成。因此,这可以告诉您高性能网络的发展。它与企业和数据中心的总体支出挂钩,但与人工智能的采用高度挂钩。
亚伦雷克斯
我想进一步扩展网络问题。当我们今天看到微软的公告时,我们会想到 Meta 在他们正在部署的 AI 足迹上做了什么。Jensen,你能帮助我们了解你的 InfiniBand 网络相对于传统数据中心交换的位置吗?也许在此基础上,你如何在市场上定位频谱,这是否会与以太网世界中更广泛的 AI 结构网络机会竞争?
Jensen Huang
是的。谢谢,亚伦。数学是这样的。如果您打算在基础设施上花费 200 亿美元,并且整个数据中心的效率提高 10%,那么这个数字是巨大的。当我们做这些大型语言模型和推荐系统时,处理是在整个数据中心完成的。因此,我们将工作负载分布在多个 GPU、多个节点上,并且它会运行很长时间。因此,可以过分强调网络的重要性。因此,整体效率提高 10% 的差异,这很容易实现,NVIDIA InfiniBand 的差异,整个软件堆栈与我们所说的 Magnum IO,它允许我们在网络本身中进行计算,a许多软件在网络本身中运行,而不仅仅是移动数据。网络本身的边缘。我们在整体效率上取得了显着差异。因此,如果您在基础设施上花费数十亿美元,甚至数亿美元,那么差异确实非常大。
安布里什·斯里瓦斯塔瓦
在数据中心方面,是否可以公平地假设计算在报告的季度中下降 Q-over-Q,因为前一个季度,Mellanox 或网络业务在被调用时上升。再一次,你说它环比增长。那么,这是一个公平的假设吗?然后我对 USG 频段进行了澄清。最初,它应该是 4 亿美元,真正用于政府试图阻止的部分。是 A800——我只是想确保我理解它。这不是违背了政府正在尝试做的事情的精神,即防火墙、高性能计算,还是 A800 将面向不同的客户群?谢谢你。
科莱特克雷斯
看看我们本季度的计算结果是持平的。是的,我们也看到了增长,网络方面的增长,但你应该看看我们的第三季度,计算与上一季度持平。
Jensen Huang
Ambrish,A800,硬件,A800的硬件确保它始终满足美国政府对出口管制的明确测试。并且不能通过客户重新编程或应用程序重新编程来超过它。它受硬件限制。硬件决定了 A800 的功能。因此,它在文字和精神上都经受了明确的考验。我们对 4 亿美元的 A100 提出了担忧,因为我们不确定我们是否能够及时执行、将 A800 介绍给我们的客户并通过我们的供应链。公司做了出色的反馈来应对这种情况,确保我们的业务不受影响,我们的客户不受影响。但A800的硬件肯定能确保它始终满足美国政府对出口管制的明确测试。.
威廉斯坦
我希望您能在我们明年取得进展时讨论 H100 的增长速度。我们收到了很多关于该产品的增长是否应该看起来像一种传统产品周期的问题,在这种周期中,对这种性能显着提高的产品有相当多的被压抑的需求,而且也有供应。那么,从这个角度来看,这种推出是否看起来相对典型,或者我们是否应该期望增长轨迹的开始可能更晚,我们可能会看到 23 年下半年的增长可能会大幅增加?
Jensen Huang
H100 斜坡在几个方面不同于 A100 斜坡。首先是 TCO、成本收益、运营成本收益,因为每个数据中心现在都受到功率限制,因此节省了能源,而且因为这个令人难以置信的变压器引擎专为最新的 AI 模型设计。与 Ampere 相比的性能是如此重要,以至于我——并且由于这些新模型对 Hopper 的需求被压抑——我谈到了早期的深度推荐系统和大型语言模型以及生成 AI 模型。客户要求尽快推出 Hopper,我们也在努力做到这一点。我们全力以赴帮助云服务提供商建立超级计算机。
请记住,NVIDIA 是世界上唯一一家大批量生产和运输半定制超级计算机的公司。每三年出货一台超级计算机是一个奇迹。在一个季度内向每个云服务提供商运送超级计算机的情况闻所未闻。因此,我们正在与他们中的每一个人密切合作,他们中的每一个人都在竞相站起来 Hoppers。我们预计他们将在第一季度推出 Hopper 云服务。因此,我们预计会出货一些——我们预计在第四季度出货,然后我们预计在第一季度出货量很大。这比安培更快。所以,这是因为我描述的动态。
马特拉姆齐
我在你的脚本中听说你曾谈到过可能是一种新的方式来评论或报告你的数据中心业务中的超大规模收入。我想知道您是否可以向我们提供更多详细信息,说明您在那里的想法以及是什么推动了这个决定?我猜 Jensen 的衍生结果如何 - 决定以不同的方式与超大规模讨论数据中心业务。我的意思是,这对业务意味着什么,它只是反映了需求在哪里,你将以不同的方式解决问题,或者我猜,超大规模客户内部属性与垂直行业需求的组合发生了一些变化根据。谢谢你。
科莱特克雷斯
让我澄清一下就我们认为在我们继续讨论我们的数据中心业务时应该关注的内容而言。我们的数据中心业务越来越大,我们的客户也越来越复杂。当我们谈论超大规模时,我们倾向于谈论 7、8 家不同的公司。但现实是,有很多非常大的公司,我们可以根据他们购买的产品加入讨论。此外,查看云、查看我们的云采购以及我们的客户正在为云构建什么是一个需要关注的重要领域,因为这确实是我们的企业所在、我们的研究所在、我们的高等教育也在采购的所在。
Jensen Huang
让我双击科莱特刚才说的话,这是绝对正确的。有两种主要的动态正在发生。首先,NVIDIA AI 在全球互联网服务公司中的采用,他们这样做的数量和规模已经增长了很多,互联网服务公司。这些是提供服务的互联网服务公司,但他们不是公共云计算公司。第二个因素与云计算有关。我们现在正处于云计算的转折点。世界上几乎每个企业都有云优先和多云战略。这正是我们今年发布的所有公告的原因——这个季度,自 GTC 以来的最后一个季度,关于现在在云中可用的所有新平台、CSP、超大规模服务器——都是两件事因此,对我们来说,超大规模可以卖给客户;他们也是与合作伙伴一起出售。
在他们业务的公共云方面,由于 NVIDIA 生态系统的丰富性,因为我们有如此多的互联网服务客户和企业客户使用 NVIDIA 的完整堆栈,他们业务的公共云方面真正享受并重视与我们的合作伙伴关系和销售他们与我们的关系。现在很明显,对于所有超大规模企业来说,他们业务的公共云方面很可能——很可能是他们整体消费的绝大部分。因此,因为世界上的 CSP,世界上的公有云只是处于他们企业的早期阶段——将企业提升到云世界,很明显,公有云方面的业务将非常庞大.因此,我们与 CSP 的关系越来越多,
约瑟夫摩尔
想知道您是否可以回顾一下加密货币的影响。显然,这已经从你的数字中消失了,但你是否看到挖矿网络中 GPU 的清算潜力,对未来的影响?您是否预见到区块链会在未来的某个时候成为您业务的重要组成部分?
Jensen Huang
我们不希望看到区块链成为我们未来业务的重要组成部分。转售市场总是存在的。如果您查看任何主要的转售网站,例如 eBay,就会一直有二手显卡出售。其原因是因为某人今天购买的 3090 升级为 4090,或者他们几年前购买的 3090 今天升级为 4090。如果以合适的价格出售,那 3090 可以卖给某人并享受。因此,二手和用过的显卡的数量一直存在。而且库存永远不会为零。当库存比平时多时,就像所有的供应需求一样,它可能会降低价格并影响我们市场的低端。
但我的感觉是,我们现在与 Ada 一起去的地方非常明确地瞄准了我们市场的上半部分。早期的迹象是,我相信你也看到了 Ada 的发布是一个本垒打。那个 4090——我们运送了大量的 4090,因为如你所知,我们已经做好了准备。然而几分钟之内,它们就在世界各地销售一空。因此,今天 4090 和 4080 的接收量已经超出了图表。这说明了游戏市场的实力、健康和活力。所以,我们对 Ada 的发布非常热情。我们将推出更多 Ada 产品。
张敏也
非常感谢你把我挤进去。我有两个给科莱特的。关于供应,我认为您的言论中有一些混合信息。我想你曾经说过供应是一个逆风。然后当你在与网络业务交谈时,我想你谈到了供应放松。所以,如果你此时赶上需求,我希望你能谈谈供应。其次,我意识到,仅关于基于股票的薪酬,这是一个非常平凡的话题,但它是——我认为在本季度,它大约是 7 亿美元。它在您的运营支出中所占的比重越来越大。所以,很好奇我们应该如何对未来进行建模。谢谢你。
科莱特克雷斯
当我们审视过去每个季度的供应限制时,情况正在好转。网络可能是一年前我们的问题之一,它可能把我们带到了本季度和下个季度,真正看到我们的供应得到改善,以便我们可以支持我们为那里的客户提供的管道。现在这是我们的供应。我们还就我们的客户、供应限制问题进行了讨论。在建立数据中心时,即使获得数据中心容量也非常困难。因此,这对他们的采购决策提出了挑战,因为他们仍在寻找供应链的某些部分。因此,这有望澄清我们所谈论的关于两个供应领域的内容。
在我们的基于股票的薪酬中,我们将看到,很难预测我们的基于股票的薪酬在到达时会是多少。我们已经向我们的新员工提供了服务,但也每年向我们的员工提供一次服务,而且就定价时间而言,这是一个单一的日期。所以,很难确定。但基于股票的薪酬是我们员工薪酬的重要组成部分,并将继续如此。所以,我们从整体薪酬的角度来看。因此,到目前为止,当我们进行焦点时,我们将看到与现在相同的规模,并增加了一些以减少我们现在的员工招聘水平。
Jensen Huang
我们正在迅速适应宏观环境,调整库存水平,为中国的数据中心客户提供替代产品,并在未来几个季度保持运营支出持平。
我们的新平台开局良好,为我们恢复增长奠定了基础。NVIDIA RTX 正在通过光线追踪和 AI 重塑 3D 图形。Ada Lovelace 的推出是非凡的。全球玩家大排长龙,4290股迅速售罄。Hopper 凭借其革命性的 Transformer 引擎及时满足了对推荐系统、大型语言模型和生成 AI 不断增长的需求。NVIDIA 网络是最高数据中心吞吐量和创纪录成果的代名词。Orin 是世界上第一个专为 AI 驱动的自动驾驶汽车和机器人技术设计的计算平台,并使汽车成为我们下一个价值数十亿美元的平台。
这些计算平台运行 NVIDIA AI 和 NVIDIA Omniverse,这些软件库和引擎可帮助公司构建 AI 并将其部署到产品和服务中。NVIDIA 在加速计算方面的开创性工作比以往任何时候都更加重要。受商业限制,通用通勤已经放缓,就像人工智能需要更多计算一样。从成本或功率的角度来看,仅通过一般购买计算来扩展不再可行。加速计算是前进的道路。我们期待在下个季度向您通报我们的进展情况。
(这份记录可能不是100%的准确率,并且可能包含拼写错误和其他不准确的。提供此记录,没有任何形式的明示或暗示的保证。表达的记录任何意见并不反映老虎的意见)