AI的未来已来 - NVIDIA GTC 2024主题演讲亮点
简介
在一个更像摇滚音乐会而非技术大会的非凡场景中，NVIDIA的GTC 2024颠覆了人们的期待。主角不是普通的名人，而是身着标志性皮夹克的NVIDIA创始人兼CEO黄仁勋。在NVIDIA一跃成为市值2万亿美元巨头的背景下，黄仁勋已成为科技界的标志性人物，其影响力可与完全不同领域的偶像相媲美。当NVIDIA在五年后重返线下舞台时，现场的热烈氛围和座无虚席的场面凸显了AI正在各个领域引点的巨大变革。尽管黄仁勋开玩笑说"这不是音乐会，而是开发者大会"，但无法掩盖他的"粉丝们"的热情——这证明了NVIDIA的计算能力和AI创新即将释放的深远影响。在AI潜力无限的时代，NVIDIA的GTC 2024成为一个关键时刻，预示着一个技术与人类创造力以前所未有方式融合的未来。
Blackwell时代
NVIDIA Blackwell平台到来，开启计算新纪元。
更大的体积并不足以充分展示先进工艺带来的性能提升。举一个更具说明性的例子，考虑OpenAI最新的GPT-4-1.8T参数规模，使用2000个Blackwell单元只需90天就能完成训练。相比之下，在Hopper GPU上完成相同工作负载需要8000个GPU。通过利用先进工艺，电力和token生成相关的成本可以降低到原来的四分之一，而能耗和训练效率提高了25倍。
他们不只提供单一的硬件，而是提供完整的解决方案。
要提高硬件销量，优秀的软件必不可少。颠覆市场的潜力往往蕴藏在最早期的软件中。因此，早在三十年前，NVIDIA在销售硬件的同时就大力投资软件生态系统。
"买得越多，省得越多。你不需要懂战略或技术，这就是NVIDIA。"
来自 黄仁勋
除了GB200，NVIDIA还通过NVIDIA Quantum InfiniBand网络技术提供了一个将数万个GB200并行连接成真正超级计算机的解决方案，这个系统能够将数十万个Blackwell GPU作为一个单元串联在一起，用于训练地球上最顶级的生成式AI大模型。NVIDIA DGX SuperPOD搭载NVIDIA GB200 Grace Blackwell超级芯片 — 用于处理万亿参数模型，为超大规模生成式AI训练和推理工作负载提供持续运行时间。
"在未来，数据中心将被视为……AI工厂，"黄仁勋说。“它们的生存目标是创造收入，在这种情况下，是创造智能。”
NVIDIA NIM
创建软件的新方式。
希望利用大模型的企业通常需要对其部署进行微调和私有化，以使其业务受益。目前，这通常通过云供应商或部署模型的小型服务提供商点完成。
Nvidia在大会上推出了自己的模型定制服务，Nvidia Inference Manager (NIM)，以便在任何有Nvidia硬件的地方都能轻松调试和使用大模型。这简直太疯狂了。
他们的新服务还提供了帮助用户微调大模型的工具，其中包括多个微服务。
Omniverse
"我们需要一个能够为机器人数字化表示世界的模拟引擎，这样机器人就有一个健身房来学习如何成为机器人，"他说。“我们称这个虚拟世界为Omniverse。”
他们继续优化Omniverse，同时将Omniverse带到Apple Vision Pro，新的Omniverse Cloud API允许开发者将交互式工业数字孪生流式传输到VR头显中。
机器人技术
黄仁勋刚刚宣布了Project GR00T，这是一个用于人形机器人的基础模型。该项目旨在推动机器人技术和具身AI的突破。这有多酷？他们还推出了Jetson Thor，这是一款为人形机器人设计的新型计算机。它基于NVIDIA Thor片上系统，并对NVIDIA Isaac机器人平台进行了重大升级。
我认为这部分是整个大会最令人兴奋的时刻。人形机器人的时代即将到来。我们正一步步走向科幻电影和小说中呈现的世界，让我们让它成为现实。
"NVIDIA的灵魂 — 计算机图形学、物理学和人工智能的交汇点。在这一刻，一切都得到了体现。"
来自 黄仁勋
