NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施
2024-03-19 来源:EEWORLD
NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施
● NVIDIA Quantum-X800 InfiniBand 网络,打造性能最强大的 AI 专用基础设施
● NVIDIA Spectrum-X800 以太网络,数据中心必备的优化 AI 网络
● NVIDIA 软件实现了跨 Blackwell GPU、新交换机和 BlueField-3 SuperNIC 的分布式计算,大幅提升了 AI、数据处理、高性能计算和云工作负载的性能
美国加利福尼亚州圣何塞 —— GTC —— 太平洋时间 2024 年 3 月 18 日 —— NVIDIA 发布专为大规模 AI 量身订制的全新网络交换机 - X800 系列。
NVIDIA Quantum-X800 InfiniBand 网络和 NVIDIA Spectrum™-X800 以太网络是全球首批高达 800Gb/s 端到端吞吐量的网络平台,将计算和 AI 工作负载的网络性能提升到了一个新的水平,与其配套软件强强联手可进一步加速各种数据中心中的 AI、云、数据处理和高性能计算(HPC)应用,包括基于最新的 NVIDIA Blackwell 架构产品的数据中心。
NVIDIA 网络高级副总裁 Gilad Shainer 表示:“NVIDIA 网络平台是 AI 超级计算基础设施实现大规模可扩展的核心。基于 NVIDIA X800 交换机的端到端网络平台,使新型 AI 基础设施轻松运行万亿参数级生成式 AI 业务。”
Quantum InfiniBand 和 Spectrum-X 以太网的早期用户包括微软 Azure 、Oracle Cloud Infrastructure 和 Coreweave 等。
微软 Azure AI 基础设施副总裁 Nidhi Chappell 表示:“AI 是一个将数据转化为知识的强大工具,支撑这种转化的基础就是数据中心演进成为了高性能的 AI 引擎,这个演进又对网络基础设施提出了更大的需求。通过与 NVIDIA 网络解决方案的全新整合,微软 Azure云将持续构建我们的基础设施,推动 AI 云走向新的台阶。”
树立极致性能的新标杆
Quantum-X800 平台树立了 AI 专用基础设施极致性能的新标杆,该平台包含了 NVIDIA Quantum Q3400 交换机和 NVIDIA ConnectXⓇ-8 SuperNIC,二者互连达到了业界领先的端到端 800Gb/s 吞吐量,交换带宽容量较上一代产品提高了 5 倍,网络计算能力更是凭借 NVIDIA 的 SHARP™ 技术(SHARPv4)提高了 9 倍,达到了 14.4Tflops。
Spectrum-X800 平台为 AI 云和企业级基础设施带来优化的网络性能。借助 800Gb/s 的 Spectrum SN5600 交换机和 NVIDIA BlueField-3 SuperNIC,Spectrum-X800 平台为多租户生成式 AI 云和大型企业级用户提供各种至关重要的先进功能。
Spectrum-X800 通过优化网络性能,加快 AI 工作负载的处理、分析和执行速度,进而缩短 AI 解决方案的开发、部署和上市时间。Spectrum-X800 专为多租户环境打造,实现了每个租户的 AI 工作负载的性能隔离,使业务性能能够持续保持在最佳状态,提升客户满意度和服务质量。
NVIDIA 软件助一臂之力
NVIDIA 提供面向万亿参数级 AI 模型性能优化的网络加速通信库、软件开发套件和管理软件等全套软件方案。
其中的 NVIDIA 集合通信库(NCCL)可将 GPU 的并行计算任务扩展到 Quantum-X800 网络,利用其基于 SHARPv4 的强大网络计算能力和对 FP8 的支持,为大模型训练和生成式 AI 提供超强的性能。
NVIDIA 的全栈软件方案带来了先进的可编程性,使数据中心网络变得更加灵活、可靠和灵敏,既提高了整体运营效率,又满足了现代应用和服务的需求。
生态里程碑
全球多家头部基础设施供应商和系统厂商将在明年开始提供基于 Quantum-X800 和Spectrum-X800 的网络平台,包括 Aivres、DDN、戴尔科技、Eviden、Hitachi Vantara、慧与、联想、超微和 VAST Data 等。
- 详解英伟达芯片在自动驾驶的软件移植设计开发
- Rene Haas对话黄仁勋:独特的管理理念、系统创新体系以及AI的未来
- AI 巨头 Nvidia 英伟达在汽车领域做什么?
- 芯片王者之战:座舱王者高通,再战智驾王者英伟达
- 黄仁勋称英伟达Blackwell芯片曾存在设计缺陷,靠台积电力挽狂澜
- 黄仁勋表示Nvidia正在将人工智能广泛应用于芯片和软件设计中
- AI定义汽车:NVIDIA引领自动驾驶与智算新纪元
- 消息称英伟达 RTX 50 系显卡明年一季度陆续登场,暂无 SUPER 版规划
- 联想与英伟达扩大合作,联合发布全新液冷 AI 服务器
- Mobileye强烈diss特斯拉、端到端和英伟达
- AI大模型时代,GPU高速互连如何正确破局
- 专访Silicon Labs:深度探讨蓝牙6.0的未来发展趋势
- 恩智浦发布S32J系列安全以太网交换机支持可扩展汽车网络,拓展CoreRide平台
- 智能无处不在:安谋科技“周易”NPU开启端侧AI新时代
- 我国首次实现骨干电网大规模卫星巡视,工作效率是人工 10 倍以上
- MACOM获得美国防部资助开发GaN-on-SiC产品
- Rambus宣布推出业界首款HBM4控制器IP,加速下一代AI工作负载
- 现代摩比斯选择BlackBerry QNX,驱动下一代数字座舱平台
- 边缘 AI:彻底改变实时数据处理和自动化
- 诺基亚宣布领导开发欧洲 SUSTAIN-6G 大型可持续网络通信项目