《AIGC行业市场分析.docx》由会员分享,可在线阅读,更多相关《AIGC行业市场分析.docx(7页珍藏版)》请在第一文库网上搜索。
1、A1GC行业市场分析ChatGPT开启大模型“军备赛”,存储作为计算机重要组成部分明显受益:ChatGPT开启算力军备赛,大模型参数呈现指数规模,引爆海量算力需求,模型计算量增长速度远超人工智能硬件算力增长速度,同时也对数据传输速度提出了更高的要求。XPU、内存、硬盘组成完整的冯诺依曼体系,以一台通用服务器为例,芯片组+存储的成本约占70%以上,芯片组、内部存储和外部存储是组成核心部件;存储是计算机的重要组成结构,“内存”实为硬盘与CPU之间的中间人,存储可按照介质分类为ROM和RAM两部分。存算一体,后摩尔时代的必然发展:过去二十年中,算力发展速度远超存储,“存储墙”成为加速学习时代下的一代
2、挑战,原因是在后摩尔时代,存储带宽制约了计算系统的有效带宽,芯片算力增长步履维艰。因此存算一体有望打破冯诺依曼架构,是后摩时代下的必然选择,存算一体即数据存储与计算融合在同一个芯片的同一片区之中,极其适用于大数据量大规模并行的应用场景。存算一体优势显著,被誉为A1芯片一的“全能战士”,具有高能耗、低成本、高算力等优势;存算一体按照计算方式分为数字计算和模拟计算,应用场景较为广泛,SRAM、RRAM有望成为云端存算一体主流介质。存算一体前景广阔、渐入佳境:存算一体需求旺盛,有望推动下一阶段的人工智能发展,原因是我们认为现在存算一体主要A1的算力需求、并行计算、神经网络计算等;大模型兴起,存算一体
3、适用于从云至端各类计算,端测方面,人工智能更在意及时响应,即“输入”即“输出”,目前存算一体已经可以完成高精度计算;云端方面,随着大模型的横空出世,参数方面已经达到上亿级别,存算一体有望成为新一代算力因素;存算一体适用于人工智能各个场景,如穿戴设备、移动终端、智能驾驶、数据中心等。我们认为存算一体为下一代技术趋势并有望广泛应用于人工智能神经网络相关应用、感存算一体,多模态的人工智能计算、类脑计算等场景。01、存算一体,开启算力新篇章1.1、 ChatGPT开启大模型“军备赛”,算力呈现明显缺口ChatGPT开启算力军备赛:我们已经在ChatGPT:百度文心一言畅想中证明数据、平台、算力是打造大
4、模型生态的必备基础,且算力是训练大模型的底层动力源泉,一个优秀的算力底座在大模型(A1算法)的训练和推理具备效率优势;同时,我们在ChatGPT打响A1算力“军备战”中证明算力是A1技术角逐“入场券”,其中A1服务器、A1芯片等为核心产品;此外,我们还在ChatGPT,英伟达DGX引爆Ar核聚变”中证明以英伟达为代表的科技公司正在快速补足全球A1算力需求,为大模型增添必备“燃料”。大模型参数呈现指数规模,引爆海量算力需求:根据财联社和OPenA1数据,ChatGPT浪潮下算力缺口巨大,根据OPenA1数据,模型计算量增长速度远超人工智能硬件算力增长速度,存在万倍差距。运算规模的增长,带动了对A
5、1训练芯片单点算力提升的需求,并对数据传输速度提出了更高的要求。根据统计,过去五年,大模型发展呈现指数级别,部分大模型已达万亿级别,因此对算力需求也随之攀升。1.2、 深度拆解服务器核心硬件组成部分服务器的组成:我们以一台通用服务器为例,服务器主要由主板、内存、芯片组、磁盘、网卡、显卡、电源、主机箱等硬件设备组成;其中芯片组、内部存储和外部存储是组成核心部件。GPU服务器优势显著:GPU服务器超强的计算功能可应用于海量数据处理方面的运算,如搜索、大数据推荐、智能输入法等,相较于通用服务器,在数据量和计算量方面具有成倍的效率优势。此外,GPU可作为深度学习的训练平台,优势在于1、GPU服务器可直
6、接加速计算服务,亦可直接与外界连接通信;2、GPU服务器和云服务器搭配使用,云服务器为主,GPU服务器负责提供计算平台;3、对象存储COS可以为GPU服务器提供大数据量的云存储服务。A1服务器芯片组价值成本凸显:以一台通用服务器为例,主板或芯片组占比最高,大约占成本50%以上,内存(内部存储+外部存储)占比约为20%。此外,根据Wind及芯语的数据,A1服务器相较于高性能服务器、基础服务器在芯片组(CPU+GPU)的价格往往更高,A1服务器(训练)芯片组的成本占比高达83%、A1服务器(推理)芯片组占比为50%,远远高于通用服务器芯片组的占比。1.3、 存储,计算机的重要组成结构存储是计算机的
7、重要组成结构:存储器是用来存储程序和数据的部件,对于计算机来说,有了存储器才有记忆功能,才能保证正常工作。存储器按其用途可分为主存储器和辅助存储器,主存储器又称内存储器(简称内存),辅助存储器又称外存储器(简称外存)。内存:主板上的存储结构,与CPU直接沟通,并用其存储数据的部件,存放当前正在使用的(即执行中)的数据和程序,一旦断电,其中的程序和数据就会丢失;外存:磁性介质或光盘,像硬盘,软盘,CD等,能长期保存信息,并且不依赖于电力来保存信息。XPU、内存、硬盘组成完整的冯诺依曼体系:“内存”实为硬盘与CPU之间的中间人,CPU如果直接从硬盘中抓数据,时间会太久。所以“内存”作为中间人,从硬
8、盘里面提取数据,再让CPU直接到内存中拿数据做运算。这样会比直接去硬盘抓数据,快百万倍;CPU里面有一个存储空间RegiSter(寄存器),运算时,CPU会从内存中把数据载入RegiSter,再让Register中存的数字做运算,运算完再将结果存回内存中,因此运算速度RegiSter内存硬盘,速度越快,价格越高,容量越低。1.4、 存算一体,后摩尔时代的必然发展算力发展速度远超存储,存储带宽限制计算系统的速度:在过去二十年,处理器性能以每年大约55%的速度提升,内存性能的提升速度每年只有10%左右。因此,目前的存储速度严重滞后于处理器的计算速度。能耗方面,从处理单元外的存储器提取所需的时间往往
9、是运算时间的成百上千倍,因此能效非常低;“存储墙”成为加速学习时代下的一代挑战,原因是数据在计算单元和存储单元的频繁移动。存储墙、带宽墙和功耗墙成为首要限制关键:在传统计算机架构中,存储与计算分离,存储单元服务于计算单元,因此会考虑两者优先级;如今由于海量数据和A1加速时代来临,不得不考虑以最佳的配合方式为数据采集、传输、处理服务,然而存储墙、带宽墙和功耗墙成为首要挑战,虽然多核并行加速技术也能提升算力,但在后摩尔时代,存储带宽制约了计算系统的有效带宽,芯片算力增长步履维艰。1.5、 存算一体:A1芯片的“全能战士”存算一体优势显著,被誉为A1芯片的“全能战士”其优势如下:1、成百上千倍的提高
10、计算效率,降低成本:存算一体的优势是打破存储墙,消除不必要的数据搬移延迟和功耗,使用存储单元提升算力;2、特定领域提供更高算力与能效:存算一体架构消除了计算与存储的界限,直接在存储器内完成计算,因此属于非冯诺伊曼架构,在特定领域可以提供更大算力(1OOOTOPS以上)和更高能效(超过10-100TOPS/W),明显超越现有ASIC算力芯片;3、存算一体代表了未来A1计算芯片的主流架构:除AI计算外,存算技术也可用于感存算一体芯片和类脑芯片,可减少不必要的数据搬运与使用存储单元参与逻辑计算提升算力,原因在于等效于在面积不变的情况下规模化增加计算核心数。1.6、 存算一体存储介质百花齐放存算一体应
11、用场景极其广阔:端侧小算力场景,算力范围约从16T0PS至IoOTOPS,例如智能可穿戴设备、智能安防、移动终端、ARWR等。大算力场景,算力序曲在IoOOTOPS以上,例如云计算数据中心、自动驾驶、GPT-4等大模型等。我们认为云和边缘大算力场景,是存算一体芯片的优势领域,存算一体更具备核心影响力和竞争力;SRAM、RRAM有望成为云端存算一体主流介质:目前可用于存算一体的成熟存储器有NORF1ASH、SRAM、DRAM、RRAM、MRAM等;NorFIaSh属于非易失性存储介质,在工艺制成上有明显瓶颈;DRAM成本较低,容量大,但是速度慢;SRAM在速度方面和能效比方面具有优势,特别是在存
12、内逻辑技术发展起来之后具有明显的高能效和高精度特点;此外,PRAM有望成为下一代主流研究方向,虽然目前来看材料依旧不稳定,但是具有高速、结构简单的优点,有希望成为未来发展最快的新型存储器。02、存算一体,打开海量应用空间2.1、 存算一体前景广阔、渐入佳境存算一体需求旺盛,有望推动下一阶段的人工智能发展:我们认为现在存算一体主要A1的算力需求、并行计算、神经网络计算等,因此存算一体需求旺盛;以数据中心为例,百亿亿次(E级)的超级计算机成为各国比拼算力的关键点,为此美国能源部启动了“百亿亿次计算项目”,我国则联合国防科大、中科曙光等机构推出首台E级超算,而E级超算面临的主要问题为功耗过高、现有技
13、术超算功率高达千兆瓦,需要一个专门的核电站来给它供电,而其中50%以上的功耗都来源于数据的“搬运”,本质原因是计算与存储分离所致。大模型兴起,存算一体适用于从云至端各类计算:ChatGPT等“大模型”兴起,本质即为神经网络、深度学习等计算,因此,我们认为对算力需求旺盛;端测方面,人工智能更在意及时响应,即“输入”即“输出”,同时,随着存算一体发展,存内计算和存内逻辑,已经可以完成高精度计算;云端方面,随着大模型的横空出世,参数方面已经达到上亿级别,因此对算力的能耗方面考核更加严格,随着SRAM和PRAM等技术进一步成熟,存算一体有望成为新一代算力因素,从而推动人工智能产业的发展。2.2、 存算
14、一体为人工智能发展的必然选择我们认为存算一体为下一代技术趋势,原因及创新应用科技场景如下:人工智能神经网络相关应用:存算一体具有能耗优势,其使用成本能大幅降低,可将带A1计算的中大量乘加计算的权重部分存在存储单元中从而在读取的同时进行数据输入和计算处理,从而完成卷积运算。因此存内计算和存内逻辑非常适合人工智能的深度神经网络应用和基于A1的大数据技术;感存算一体,多模态的人工智能计算:集传感、储存和运算为一体构建感存算一体架构,我们认为其为多模态时代下的应用场景,通过传感器A1存算一体芯片,来实现零延时和超低功耗的智能视觉处理能力。我们认为其融入了CV(计算机视觉)、PRA(过程自动画)、神经网络计算等多种计算方式,存算一体芯片具有时效、能耗等多重优势;存算一体是类脑计算的关键技术基石:类脑计算又称神经形态计算,是借鉴生物神经系统信息处理模式和结构的计算理论、体系结构、芯片设计等算法总称;类脑计算属于大算力高能耗反冲,存算一体极其适合大算力领域,因此天然适合应用在类脑计算领域,是类脑计算的关键技术基石。(注意:本文仅供参考,不构成任何投资建议!)