亚马逊和英伟达扩大合作 推动生成式AI创新

英伟达19日举办 GTC 大会，合作伙伴亚马逊AWS 也宣布，将支持 NVIDIA 的最新 AI 顶尖算力 Blackwell GPU 平台，双方的合作将 AWS 在生成式 AI 创新推向新高度。

AWS 将提供基于 NVIDIA Grace Blackwell GPU 的 Amazon EC2 实例和 NVIDIA DGX Cloud，以提高在数万亿参数 LLM 上建构和运行推论的效能。

NVIDIA 的超强运算芯片系统与 AWS 强大的 Elastic Fabric Adapte(EFA) 网络连接能力、高级虚拟化和超大规模丛集等领先技术的结合，使得该平台在加速资源密集型、数万亿参数语言模型的推论工作负载方面实现了巨大进步。

在安全性方面，AWS 的 Nitro 系统、AWS KMS、EFA 加密和 Blackwell 加密的整合将为客户提供对其训练数据和模型权重的端到端控制，进而为客户在 AWS 上的生成式 AI 应用程序提供更强的安全性。

Blackwell 也加入了双方合作的 Project Ceiba，该项目专为 NVIDIA 自身的 AI 研发工作设计，是一台 AWS 上托管的采用 DGX Cloud 的 AI 超级计算机。

它搭载 20736 颗 GB200 Superchips 芯片，并透过第四代 EFA 网络扩展，为每个 Superchip 提供高达 800 Gbps 的低延迟、高带宽网络传输量，能够提供 414 exaflops 的运算能力，与之前计划在Hopper架构上建构的Ceiba相比，效能提升了6倍。