《Graphcore首次发布大型IPU产品为超级计算机领域提供超强AI算力.docx》由会员分享,可在线阅读,更多相关《Graphcore首次发布大型IPU产品为超级计算机领域提供超强AI算力.docx(3页珍藏版)》请在第一文库网上搜索。
1、Graphcore首次发布大型IPU产品,为超级计算机领域提供超强AI算力2023年10月22日,英国布里斯托Graphcore今日宣布发布最新产品IPU-POD128和IPU-P0D256oIPU-P0D128和IPU-P0D256是Graphcore迄今为止发布的最大型的产品,分别能够提供32PetaF1OPS和64PetaF1oPS的此计算。IPU-POD128和IPU-P0D256的发布意味着Graphcore进一步扩展了其在超级计算机领域的业务范围,将为超级计算机领域提供超强A1算力。IPU-POD128和IPU-P0D256的发布进一步兑现了Graphcore在AI旅程的每个阶段为
2、客户提供服务的承诺。IPU-POD16仍然是理想的探索平台,IPU-P0D64适用于想要建立AI计算的客户,而IPU-POD128和IPU-P0D256适合需要实现进一步快速增长的客户,可以在整个系统中更快地训练基于Transformer的大型语言模型,在生产中运行大规模商业A1推理应用程序,通过将系统划分为更小、更灵活的VPOD,为更多开发人员提供IPU访问权限,或者通过在整个系统中探索GPT和GNN等新兴模型来实现科学突破,是云超大规模企业(C1oudHypersca1er),国家科学计算实验室以及在金融服务或制药等市场拥有大型AI团队的企业的理想之选。首批部署IPU-P0D128的客户包
3、括韩国科技巨头KoreaTe1ecom(KT)0为了不断满足日益增长的超大规模A1HPC环境市场需求,KT正与GraPhCOre合作,将其所拥有的IPU-P0D64升级为IPU-P0D128,以增加为客户所提供的“超大规模A1服务”。KT云/数字体验业务部高级副总裁Mihee1ee表示:“通过此次升级,预计我们的A1计算规模将增加至32PetaF1OPS的A1计算,使更多元的客户能够使用KT的先进AI计算技术进行大规模AI模型训练和推理。”与其他IPU-POD系统一样,AI计算和服务器的解聚意味着IPU-P0D128和IPU-P0D256可以在优化后,为不同的A1工作负载提供最大性能,实现最佳
4、总体拥有成本(TC0)。例如一个以自然语言处理(N1P)为主的系统可以只使用2台服务器;而更多的数据密集型任务,例如计算机视觉任务等可以使用8台服务器。此外,系统存储可以使用来自GraPhCOre最近公布的存储合作伙伴所提供的技术,围绕特定的AI工作负载进行优化。广泛使用的语言和视觉模型的结果显示,IPU-P0D128和IPU-P0D256具有极为出色的训练性能和高效的扩展能力,随着未来软件的优化,这两大产品有望进一步提高性能。IPU-PODSCA1ING:RESNET=ResNet50v1.5TensorFIowTrainingThroughpihttds:/www.araDhcore.ai
5、jDerformance-resuitsIPU-PODSCA1ING:BERT-1ARBERT-1Ph1(S1128)TensorFIowThroughput30,0825,020,00015,00010,0005,00025,09788%sca1ingefficiency97%sca1ingefficiency12,9033,664IPU-POD16IPU-POD64IPUPOD12fihttps:WWWm3Dhcore.si;DerfOrm8ncaresu1ts将Graphcore计算扩展到IPU-P0D128和IPU-P0D256需要大量使能技术支持,其中既包括硬性技术也包括软件技术。GraPhCore将携手合作伙伴为全球客户部署IPU-P0D256和IPU-P0D128,客户可以从云端或Atos等Graphcore的合作伙伴处获取IPU-P0D256和IPU-P0D128oAtos集团高级副总裁兼HPC和Quantum主管AgndsBoudot表示:我们十分高兴能将IPU-P0D128和IPU-P0D256加入到我们的AtosThinkAI产品组合中,使我们的客户能够在众多领域更快探索和部署更大、更具创新性的A1模型。”