亚马逊云科技与英伟达扩展合作 加速超万亿参数级大模型训练

CSS站长资源(ChinaZ.com) 3月20日 消息:亚马逊云科技与英伟达扩展合作，亚马英伟加速生成式 AI 创新。逊云训练双方将在亚马逊云科技上提供 NVIDIA Blackwell 架构 GPU，科技包括 GB200Grace Blackwell 超级芯片和 B100Tensor Core GPU，达扩以帮助客户解锁新的展合作加生成式 AI 能力。合作重点如下:

1. 加速超万亿参数级大语言模型训练:亚马逊云科技提供 GB200NVL72配置的速超 NVIDIA Blackwell 架构，配备72颗 Blackwell GPU 和36颗 Grace CPU，参数通过第五代 NVIDIA NVLink™ 互连。模型结合亚马逊云科技的亚马英伟 EFA 网络、Amazon Nitro 系统和 Amazon EC2UltraClusters 超大规模集群，逊云训练客户能够扩展至数千个 GB200超级芯片，科技加速大语言模型训练和推理。达扩

2. 提升安全性:整合 Amazon Nitro 系统、展合作加Amazon KMS 和 EFA 加密技术，速超保护模型权重的参数安全，防止未授权访问模型权重。通过 Amazon Nitro Enclaves 和 Amazon KMS 创建可信执行环境，实现数据加密和保护客户数据安全。

3. 推进未来生成式 AI 创新:Ceiba 项目是 NVIDIA 在亚马逊云科技上搭建的世界上最快的 AI 超级计算机，采用 GB200GPU 和 Grace CPU 构建，性能提升6倍。Ceiba 项目将推动生成式 AI 领域的创新，包括大语言模型、图形、数字生物学等。

4. 推动生成式 AI 应用开发及医疗健康与生命科学领域:整合 Amazon SageMaker 和 NVIDIA NIM 推理微服务，提供高性能、低成本的生成式 AI 推理解决方案。在药物发现领域，推出 NVIDIABioNeMo™ 基础模型，加速化学、蛋白质结构预测等应用。推出生成式 AI 微服务，推进药物发现和医疗领域的发展。