NVIDIA宣布推出DGX H100系统 —— 全球最先进的企业级AI基础设施.docx

《NVIDIA宣布推出DGX H100系统 —— 全球最先进的企业级AI基础设施.docx》由会员分享，可在线阅读，更多相关《NVIDIA宣布推出DGX H100系统 —— 全球最先进的企业级AI基础设施.docx（4页珍藏版）》请在第一文库网上搜索。

1、NV1DIA宣布推出DGXH1OO系统一一全球最先进的企业级A1基础设施结合全新NV1inkSwitch系统，每台DGXSuperPOD可提供1Exaf1ops的AI性能；全新NVIDIAEos超级计算机有望成为全球运行速度最快的AI系统；通过扩展的DGXFoundry服务即刻助力客户启程。加利福尼亚州圣克拉拉市GTC大会太平洋时间2023年3月22日NVIDIA今日宣布推出第四代NVIDIADGX系统，这是全球首个基于全新NVIDIAH1OOTensorCoreGEU的A1平台。DGXH1OO系统能够满足大型语言模型、推荐系统、医疗健康研究和气候科学的大规模计算需求。每个DGXH1OO系统配

2、备八块NVIDIAH1OOGPU,并由NVIDIANV1ink连接，能够在新的FP8精度下达到32Petaf1op的A1性能，比上一代系统性能高6倍。DGXH1OO系统是新一代NVIDIADGXPOD和NVIDIADGXSuperPODAI基础设施平台的构建模块。新的DGXSuperPOD架构采用了一个全新的NVIDIANV1inkSwitch系统，通过这一系统最多可连接32个节点，总计256块H1OOGPUo新一代DGXSuperPOD提供1Exaf1ops的FP8A1性能，比上一代产品性能高6倍，能够运行具有数万亿参数的庞大11M工作负载，从而推动AI的前沿发展。NVIDIA创始人兼首席执

3、行官黄仁勋表示:“AI已经从根本上改变了软件的功能和产出方式。利用AI来革新自身所处行业的公司也意识到了自身AI基础设施的重要性。NVIDIA全新DGXH1OO系统将赋能企业AI工厂，助力其从数据中提炼出我们最具价值的资源，即望能O宣布推出全球运行速度最快的AI超级计算机NVIDIAEosNVIDIA将率先使用突破性的新型AI架构来构建DGXSuperPOD,赋能NVIDIA研究人员的研究工作，推动气候科学、数字生物学和AI未来的发展。“Eos”超级计算机将于今年晚些时候开始运行，共配备576台DGXH1OO系统，共计4608块DGXH1OOGPU,有望成为全球运行速度最快的AI系统。NVID

4、IAEos预计将提供18.4Exaf1ops的AI计算性能，比口本的Fugaku超级计算机快4倍，后者是目前运行速度最快的系统。在传统的科学计算方面,Eos预计将提供275Petaf1op的性能。对于NVIDIA及其OEM和云计算合作伙伴,Eos将成为其先进AI基础设施的蓝图。借助DGXH1OO系统、DGXPOD和DGXSuperPOD,轻松扩展企业级AI在企业从初始项目发展到广泛部署的过程中，DGXH1OO系统能够实现轻松扩展，满足企业的AI需求。除了八块H1OOGPU以及总计6400亿个晶体管之外,每个DGXH1OO系统还包含两个NVIDIABIUeFie1d-3DPU,以用于卸载、加速和

5、隔离高级网络、存储及安全服务。八个NVIDIAConnectX-7Quantum-2InfiniBand网卡能够提供400GB/s的吞吐量，可用于连接计算和存储，这一速度比上一代系统提升了一倍。第四代NV1ink与NVSWitChTM相结合，能够在每个DGXH1OO系统中的各个GPU之间实现900GB/s的连接速度，是上一代系统的1.5倍。DGXH1OO系统使用双x86CPU,能够与NVIDIA网络和NVIDIA合作伙伴提供的存储设备相结合，使DGXPOD能够灵活用于各种规模的AI计算。借助DGXH1OO系统，DGXSuperPOD可成为具有可扩展性的卓越的企业级AI中心。DGXSuperPO

6、D中的DGXH1OO节点和H1OOGPU由NV1inkSwitch系统和NVIDIAQuantum-2InfiniBand连接，带宽速度可达70TBs,比上一代产品高11倍。NVIDIA合作伙伴提供的存储设备将经过测试和因正，以满足DGXSuperPODAI计算的需求。多个DGXSuperPOD单元可组合使用，为汽车、医疗健康、制造、通信、零售等行业提供开发大型模型所需的A1性能。NVIDIADGXFoundry托管的开发解决方案正在全球扩展，使DGXSuperPOD客户能够在他们的系统安装期间，立即获取先进的计算基础设施。北美、欧洲和亚洲的新增地点支持远程访问DGXSuperPOD（或其中部

7、分）。DGXFoundry中包含NVIDIABaseCommand软件，后者能够使客户基于DGXSuperPOD基础设施，轻松管理端到端AI开发生命周期。通过在全球各地的EquinixIBX（Internationa1BusinessExchange）数据中心托管的NVIDIA1aunchPaZ实验室，符合资格的企业可以免费体验NV1D1ABaseCommand和DGX系统。企业级AI软件M1Ops助力客户提高AI采用率为支持正在进行AI开发的DGX客户，NVIDIADGX-Ready软件合作伙伴（包括DominoData1ab、Run:ai和Weights&Biases等）提供的M1oPS解

8、决方案将加入“NVIDIAAI加速”计划。参与活动的合作伙伴提供的M1Ops应用程序将经过验证，为DGX客户提供企业级工作流以及集群管理、调度与编排解决方案。此外，NV1D1ADGX系统现在包含NV1D1AAIEnterprise软件套件，该套件新增了对裸金属基础设施的支持。DGX客户可使用软件套件中包含的预训练NVIDIAAI平台模型、工具包和框架（例如NVIDIARAPIDSNVIDIATAO工具套件、NVIDIATriton推理服务器及等）来加快工作速度。DGX-Ready托管服务计划能够简化AI部署随着企业AI采用率不断提高，客户正在寻求更多选择，以便添加实现业务转型所需的基础设施。N

9、VIDIA推出新的DGX-Ready托管服务计划，能够为希望与服务提供商开展合作来监督其基础设施的客户提供支持。德勤是率先与NVIDIA合作开展此计划的全球提供商，并将经过认证，可与区域供应商(CGiteP1usInsightEnterprises和PTCSystem)一起，为欧洲、北美和亚洲的客户提供支持。德勤咨询首席合伙人兼AI与数据运营服务负责人JimRowan表示：“只有企业能够将技术集成到运营中时，AI才可能助推业务实现突破。借助新的DGX-Ready托管服务计划，客户可以轻松采用先进的AI技术以及由德勤全球专家管理的NVIDIADGX系统和软件。”DGX-Ready生命周期管理计划助力实现轻松升级现在，客户可以通过新的DGX-Ready生命周期管理计划，借助新的NVIDIADGX平台升级其现有DGX系统。参加DGX-Ready生命周期管理计划的NVIDIA渠道合作伙伴将可以更新上一代DGX系统，以供新客户进行购买，并扩展用于AI基础设施的全球通用系统的获取途径。供货信息从第三季度起，NVIDIA的全球合作伙伴将开始供应NVIDIADGXH1OO系统、DGXPOD和DGXSuperPOD0客户还可以选择在由CyxteraDigita1Rea1ty和EquinixIBX数据中心等NVIDIADGX-Ready数据中心合作伙伴运营的托管设施中部署DGX系统。