英伟达创始人4年来首次公开讲话 关注这13个亮点

得益于其在AI计算领域的重要性，英伟达股价在过去一年中一路飙升，目前市值约为9600亿美元，成为全球市值最高的公司之一，仅次于苹果、微软、沙特阿美、Alphabet和亚马逊。5月29日，英伟达联合创始人兼首席执行官黄仁勋在台北的Computex活动发表主旨演讲时表示，希望将生成式AI引入每个数据中心。以下是长达两个小时的主旨演讲全部亮点：1. 英伟达面向游戏玩家的GForce RTX 4080 Ti GPU现已全面、大量投产。2. 黄仁勋宣布推出适用于游戏的英伟达Avatar Cloud Engine(ACE)，这是一种可定制的AI模型代工服务，为游戏开发人员提供预训练模型。它将通过AI支持的语言交互赋予NPC更多个性。3. 英伟达Cuda计算模型目前为400万开发者和超过3000个应用程序提供服务，累计下载量达到4000万次，其中仅去年一年就达到了2500万次。4. GPU服务器HGX H100已经开始全面量产，这是世界上第一台装有变压器引擎的计算机。5. 英伟达2019年以69亿美元收购超级计算机芯片制造商Mellanox，黄仁勋认为，这是他有史以来做出的“最伟大的战略决策之一”。6. 下一代Hopper GPU将于2024年8月开始生产，也就是第一代开始生产两年后。7. 英伟达的GH200 Grace Hopper现已全面投产。超级芯片提升了4 PetaFIOPS TE、72个通过芯片到芯片链路连接的Arm CPU、96GB HBM3和576 GPU的内存。黄仁勋表示，这是世界上第一个具有巨大内存的加速计算处理器，“这是一台计算机，而不是芯片。”它专为高弹性数据中心应用而设计。8. 如果Grace Hopper的内存不够用，英伟达还提供了另一个解决方案——DGX GH200。它将八个Grace Hoppers与三个NVLINK交换机连接，然后将900GB的pod连接在一起，最后将32个上述设备组合起来，再加上一层开关，包含总共256个Grace Hopper芯片。由此产生的ExaFLOPS Transformer Engine具有144 TB的GPU内存，可用作巨型GPU。黄仁勋说，Grace Hopper速度非常快，可以在软件中运行5G堆栈。谷歌云、Meta和微软将是第一批获得DGX GH200访问权限的公司，并将对其功能进行研究。9. 英伟达和软银已建立合作伙伴关系，将Grace Hopper超级芯片引入软银在日本的新分布式数据中心。他们将能够在多租户通用服务器平台中托管生成式人工智能和无线应用程序，从而降低成本和能源。10. 软银-英伟达的合作伙伴关系将基于英伟达MGX参考架构。它为系统制造商提供了一个模块化的参考架构，帮助他们构建100多个用于AI、加速计算和全方位用途的服务器。合作的公司包括ASRock Rack、Asus、Gigabyte、Pegatron、QCT和Supermicro。11. 黄仁勋发布了Spectrum-X加速网络平台，以提高基于以太网的云速度。它包括Spectrum 4交换机，有128个每秒400GB和每秒51.2T的端口。黄仁勋说，该交换机旨在实现新型以太网，并设计为端到端以进行自适应路由、隔离性能和进行结构内计算。它还包括Bluefield 3 Smart Nic，连接到Spectrum 4交换机以执行拥塞控制。12. 世界上最大的广告公司WPP已与英伟达合作开发基于英伟达Omniverse的内容引擎。它将能够制作用于广告的照片和视频内容。13. 机器人平台英伟达Isaac ARM现在可供任何想要构建机器人的人使用，并且从芯片到传感器都是全栈的。黄仁勋表示，Isaac ARM一开始是名为Nova Orin的芯片，目前成为第一个机器人全参考堆栈。