社会要闻|“xxxxxl20”的即刻反馈 | 山西新闻网-k8凯发天生赢家

xxxxxl20

　　作者：jaso英伟达财报看到的一些增量n信息平权

　　（以下内容全部来自公开信息）

　　现在已经“inproduction”，将在第二季度开始发货（productionshipments），并在第三季度逐步rampup，而对应的客户的数据中心将在第四季度建成。“wewillseealotofblackwellrevenuethisyear”我们今年会看到很多b系列收入．．．．

　　（这个挺超预期的，个人认为最积极的信号就是这个了。毕竟之前过分保守的sellside都认为要12月出货了．．．）

　　在gpu上每花费1美元，云提供商就有机会在4年内获得5美元的托管收入。在hgxh200服务器上每花费1美元，托管llama3服务的api提供商就能在4年内获得7美元的收入。

　　需求来自：chatgpt和gpt-4o、其他多模态geminianthropic等等。还有一大批ai初创企业，大约有1.5-2万家，还有各种设计工具应用--生产力应用、数字生物学，很多视频领域实现了端到端训练，比如自动驾驶。主权ai，他们希望训练自己的国家数据，以训练他们的主权模型。

　　主权ai收入将从去年的零，发展到今年的高个位数（也就是接近百亿美金了）

　　预计汽车行业将成为今年数据中心领域最大的enterprise企业垂直市场，带来数十亿美元的收入机会（大概十几到几十万卡，马斯克要兑现下单承诺了）

　　第一套h200系统已由jensen交付给samaltman和openai团队，并在上周为他们精彩的gpt-4o演示提供了动力（符合我们之前推测）今年全球会有9台新超级计算机使用gracehopper，今年将交付总计200exaflops的高能效人工智能处理能力。（200exaflops相当于200个256集群啊，单集群售价是接近1000万美金，差不多20亿美金收入贡献）

　　老黄：我们致力于3条网络链路，从用于单计算域的nvlink到infiniband，再到以太网网络计算结构。

　　（非常清晰，nvlink目前负责高带宽域负责scale-up，而ib负责scale-out，但nvlink在逐渐继续向外走。同时ib是aifactory，以太网络是aicloud，老黄准备两者都吃）

　　老黄：spectrum-x正在与多家客户进行量产，其中包括一个10万gpu的大型集群。预计spectrum-x将在一年内跃升为价值数十亿美元的产品线。

　　（个人判断，spectrum未来空间一点不比ib小，前面几年训练阶段ib独领风骚，进入大规模推理部署rdma更被普遍接受。而英伟达反而成为目前aicloud以太网络设备目前可能收入第一大厂商．．．．是不是反常识）

　　老黄：我们预计推理能力将随着模型复杂度、用户数量和每用户查询次数的增加而扩大。在过去的四个季度中，我们估计推理驱动了我们数据中心约40%的收入。

　　（这次没有更新推理占比，毕竟上次被反复challenge，因为的确里面genai占不到1半，大家期待看到的还是genai推理。不过看现在的势头，估计很快会上去，这个季度不更新占比数字，下个季度又要更新了。以及待会的callback上一定会被问，可能会更新）

　　从blackwell到spectrum-x再到nims，我们已经准备好迎接下一波增长浪潮。

　　（给出了未来几个引擎，gb200之后还有gr200，以及网络、软件收入会是长期收入。非常合理，未来算力甚至存力本身都会通缩，但价值会逐渐积累在网络和软件上）

　　老黄：即使是pc计算堆栈也将发生革命性的变化。而这仅仅是一个开始，”geforcertxgpu的安装量已超过1亿，拥有完整的技术堆栈，可在geforcertxpc上部署和运行快速高效的推理。tensorrtllm现在可以加速

　　老黄：gracecpu、blackwellgpu、nvlink、quantum、spectrum、各类交换机、高速互联以及丰富的软件和k8凯发天生赢家的合作伙伴生态系统的组合，让我们能提供比前几代更丰富、更完整的k8凯发天生赢家的解决方案。”ai现在是一个系统问题，它不仅仅是一个llm，它是一个由一堆llm共同组成的复杂系统。这促使我们对所有芯片进行优化，使其作为一个系统协同工作。因为我们构建了整个数据中心，因此可以监控一切、测量一切、优化一切，我们知道所有的瓶颈在哪里，并与客户一起优化。我们对整个数据中心规模的深入了解是我们今天与众不同的根本原因。

　　对于ai厂商来说，领先非常重要，训练时间非常重要，你想做上一个台阶、推出最领先性能的玩家，而不是每次迭代优化0.3%的玩家。因此，这也是我们还在疯狂出货hopper原因，因为下一个台阶就在眼前。（指的是gpt-5？）

　　grace允许我们做一些现在的系统配置不可能做到的事情。grace和hopper之间的内存系统是连贯和高度耦合的，且用的内存是lpddr。这让我们可以创建具有非常大的nvlink域的东西，这对下一代大型语言推理模型至关重要。

　　（计算范式变了，arm会在各个端逐渐吃掉x86）

　　责任编辑：于健sf069