谁有GPU，谁便是云公司

对于英伟达总有新的音信让你诧异。

最近的一则来自好意思国的一家云初创公司 CoreWeave 。

1、玄关很有必要增加一个换鞋凳，方便进出门换鞋。

这家公司文告融资23亿好意思金，而更让东谈主惊骇的是这笔钱的典质物是其领有的GPU。在大模子激越下，GPU俨然成为一种硬通货，而CoreWeave之是以能有如斯多的英伟达稀缺物品，是因为它昔日的身份——北好意思最大的矿工。

其时它有进步五万台GPU用来挖矿，在靠近挖矿的不行捏续性后，CoreWeave把眼神转向AI等需要并行计算的领域，并在 ChatGPT 爆红之前就采购了深广英伟达芯片——其时芯片的产能还填塞充分。

由此，CoreWeave自称是宇宙上惟逐个个不错大规模提供H100算力的公司，也摇身一形成为了一家“云厂商”。

是的，它的GPU供给额外了扫数云做事巨头，包括谷歌云、云和微软的Azure。

皇冠体育

这听上去有些奇特，即使是不谈GPU数目瓶颈，构建数据中心还需要巨量的本钱，小巧的空间、动力和散热遐想以及畸形复杂的软硬件协同，一般来说，能甘愿这些要求的只然则巨头，而不是刚进行了B轮融资（4.21亿好意思元）的初创公司。

CoreWeave 能作念到这少许，源于一种对数据中心天地之别的领略。

传统的数据中心由CPU组成，它们侧重于通用计算的才智，主要由最运行是英特尔，自后是AMD的芯片所摆布。

但全新的用于加快计算的数据中心则更强调并行计算，这就意味着它需要有更大的内存、带宽以及把扫数的加快计算单位密切皆集起来的才智，英伟达独创东谈主和CEO黄仁勋称这个经过为“数据中心当代化”，在他看来这是一个将捏续10年的周期。

这个新周期的运行预示着通盘数据中心的建构花式，软硬件协同乃至电源和散热结构都需要重新遐想。这让扫数的云做事提供商险些重回起跑线——针对 CPU 遐想的上一代的数据中心有斟酌险些十足无法照搬。比如英伟达皆集高大GPU集群所用到的 Infinite Band 技巧需要进步500英里的电缆，这在传统的数据中心遐想中根蒂不存在。

CoreWeave举了另一个例子，调换场合大小，GPU 集群所需要的电力是传统数据中心的 4 倍，因此新数据中心的电力系统和散热系统都需要十足重新遐想，这以致还不算软硬件协同的本钱。

霸占先机的CoreWeave由此不仅能提供高大的H100算力，况兼在比其它的云做事快几十倍的同期用度还低80%，能作念到这些，咱们不错将其归功于它很早就精确践行了黄仁勋关所有这个词据中心的愿景——数据中心正在向加快计算标的曲折，而紧缺的算力则通过云供应。

就这样，一家造谣币挖矿公司就形成了一家当红的云计算公司，只因为它是最至心的英伟达徒弟。

英伟达云是个什么云

谁有英伟达的GPU谁便是最红的云厂商，那么谁有最多的英伟达GPU？赫然是它我方。

于是在扶捏访佛的云初创企业的同期，英伟达也在建树我方的云。

英伟达躬行下场作念云的上风有许多，最赫然的是它不受到GPU供需关系的困扰。马斯克曾在公开场合说，得到GPU比得到毒品要难多了，而CoreWeave之是以能提供超大规模的 H100 算力，据悉也和英伟达的充分供应关系——英伟达在几个月前参与了CoreWeave的 B 轮融资。

但赫然，只是投一些初创公司还不够，生成式 AI 对算力的巨大需求最终让英伟达我方下场。在本年3月的GTC大会上，英伟达推出了我方的云做事DGX Cloud ，它已在年中风雅上线。

从名字就不错看出，DGX Cloud 平直欺骗了英伟达DGX超等计算机的才智，云的每个实例均配备8个H100或A100 GPU以及640GB内存。

DGX Cloud 弃取了一种低延长结构，让高大的责任流不错在集群之间膨胀，于多个计算节点上并行分派。举个例子来说，伊始文告与DGX Cloud伙同的甲骨文，它在OCI Supercluster上每个集群不错部署进步3万个A100 GPU，由此大模子不错在云上进行窥探。用户在职何地点都能解放造访属于我方的 AI 超等计算机（英伟达暗示算力的分派是独享排他的），打交谈的只消前台界面，除了设备经过自己毋庸再去惦记任何和硬件基础要道关系的问题。

这项做事弃取月租模样，金额高达近 4 万好意思元。诚然，比拟平直买一台 DGX 做事器 20 万好意思元的价钱来说如故低廉了许多，但不少东谈主都指出，的 Azure 一样 8 个 A100GPU 的收费只消不到 2 万好意思元，险些是前者的一半。

为什么这样贵？因为英伟达的云做事和别家不同，它不仅包括算力，还包括一整套 AI 科罚有斟酌。

名为Base Command Platform（基础号召平台）和 AI Enterprise 的两项做事被集成到了DGX Cloud里。前者是一个治理与监控软件，不仅不错用来记载云霄算力的窥探负载，提供跨云霄和土产货算力的整合，还能让用户平直从浏览器造访 DGX Cloud。后者则是英伟达 AI 平台中的软件层，高达数千个软件包提供了多样预窥探模子、AI 框架和加快库，从而简化端到端的 AI 设备和部署本钱。除此以外，DGX Cloud 上还提供名为 AI Foundations 的模子锻造做事，让企业用户不错使用我方的私稀有据定制属于我方的垂直大模子。

这套软硬件组合起来的完满科罚有斟酌让 DGX Cloud 窥探速率比拟传统的云计算提高了两到三倍，这成为了DGX Cloud与传统云做事最大的不同，它很好的抽象了英伟达两方面的矍铄：AI 生态和算力。对于英伟达来说，“软件即做事”这句话似乎应该改成“软硬件一体即做事”，DGX Cloud 辘集代表了一个硬件厂商进取垂直整合的才智天花板。

黄仁勋的无餍和履行

但这并不虞味着英伟达就透彻掀了传统云厂商的桌子。它的这项做事是通过传统云厂商来提供的。DGX Cloud 最运行被文告推出在甲骨文云上，随后微软和谷歌跟进，而英伟达与这些云厂商伙同的花式显得颇为道理：英伟达先把 GPU硬件卖给这些云伙同伴伴，然后再租用这些硬件以便运行DGX Cloud。

有东谈主戏称这叫双方钱一谈赚，都不疲塌。

骨子上，黄仁勋证实过这种模式：“咱们从让客户使用咱们的计算平台中受益，而客户通过将咱们（的计算平台）置于他们（云厂商）的云中而受益。”

若是只听黄仁勋说，这便是个皆大愉快的双赢结局，关联词这只是他一贯的叙事良友。英伟达仍是堕入与我方客户的竞争中，况兼心知肚明。

DGX Cloud 推崇告诉咱们，黄仁勋并不诡计只是把它吩咐于传统云厂商上。在八月的 SIGGRAPH 2023上，英伟达先是文告了与 Hugging Face 的伙同，接着发布了名为AI Workbench的做事。它们都不错让用户浅陋创建、测试和定制预训大模子，其背后的算力提拔当然都包括了 DGX Cloud。

这赫然会冲击英伟达和云厂商的关系：最主要的云做事商，包括谷歌、亚马逊和微软，它们一样亦然英伟达的大客户，英伟达实施自有云做事例必会剥夺它们的市集份额。绝顶是咱们在第一部分仍是谈到，当作数据中心和云做事巨头的它们在构建下一代数据中心的问题上正本就不具备若干上风，若是再洽商到英伟达芯片产能“卡脖子”的问题，英伟达的自有云做事要挟不行谓不小。

黄仁勋不会不知谈这少许，因此他对DGX Cloud 的格调就显得颇值得玩味了，比如他公开暗示，一个允洽的云做事组合比例应该是10%英伟达DGX加上90%的公有云。换而言之，DGX Cloud 在黄仁勋的定位里并不是传统云厂商的敌手与要挟，而是伙同伴伴。

在 Q1 季度财报公布后的分析师电话会上黄仁勋谈的更多的都是这种伙同的公正，“一个巨大的双赢”，黄仁勋如斯描摹。在他的领略里，DGX Cloud 是一个地谈的英伟达堆栈（pure Nvidia stack），把东谈主工智能设备、大型数据库和高速低延长收集组合在一谈，成为一种浅陋的AI 基础要道从而大开全新的、巨大的市集——这个市集的参与者包括了英伟达和传统云厂商，巨匠将共同受益于生成式 AI 的爆发。

奋力避谈冲突，其实是因为，DGX Cloud 只怕很长时期内都只可督察一个较小的体量。

第一个原因诚然是算力的瓶颈。“订单多到不行念念议”是黄仁勋描摹数据中心业务量时的描写，英伟达的中枢要务诚然是设备并保证坐蓐尽可能多的相宜市集需求的先进芯片，不然云做事的规模是无法扩大的。

尽管台积电在马络续蹄的坐蓐，但值得注成见是算力缺口不是变小而是更大了，因为一朝大模子落地和贸易化（比如像ChatGPT那样），其推理本钱将跟着用户规模的擢升指数级升高，永久来看会比窥探模子的算力需求大得多（有东谈主给出的倍率是 100）。

此外亦然洽商到英伟达和传统云厂商伙同关系的复杂性。DGX Cloud若是当作一种地谈的竞品出现，大意会占领可不雅的市集份额，但例必进一步加快云厂商解脱对英伟达的依赖——它们正本就仍是为了少交点“英伟达税”而殊途同归地自研芯片了。

从另一个角度讲，全力扩大 DGX Cloud 规模可能也不相宜英伟达的最好利益。从芯片到游戏显卡再到做事器和数据中心，英伟达绝少我方制造硬件家具，它更心爱和OEM 厂商伙同——以至于许多时候你要采购英伟达芯片都如故得经过 OEM 厂商。这让英伟达很好的限度本钱，督察利润率。

今天英伟达和云厂商之间似乎督察了一种均衡，但均衡便是用来糟蹋的，尤其当一方是英伟达的时候，毕竟脚下才是黄仁勋所谓“下一代数据中心十年”更新周期的第一年。