计算机CPU缓存是如何工作的.docx

上传人:lao****ou 文档编号:301862 上传时间:2023-08-08 格式:DOCX 页数:4 大小:18.19KB
下载 相关 举报
计算机CPU缓存是如何工作的.docx_第1页
第1页 / 共4页
计算机CPU缓存是如何工作的.docx_第2页
第2页 / 共4页
计算机CPU缓存是如何工作的.docx_第3页
第3页 / 共4页
计算机CPU缓存是如何工作的.docx_第4页
第4页 / 共4页
亲,该文档总共4页,全部预览完了,如果喜欢就下载吧!
资源描述

《计算机CPU缓存是如何工作的.docx》由会员分享,可在线阅读,更多相关《计算机CPU缓存是如何工作的.docx(4页珍藏版)》请在第一文库网上搜索。

1、代码都是由CPU跑起来的,我们代码写的好与坏就决定了CPU的执行效率,特别是在编写计算密集型的程序,更要注重CPU的执行效率,否则将会大大影响系统性能。CPU内部嵌入了CPUCaChe(高速缓存),它的存储容量很小,但是离CPU核心很近,所以缓存的读写速度是极快的,那么如果CPU运算时,直接从CPUCaChe读取数据,而不是从内存的话,运算速度就会很快。但是,大多数人不知道CPUCaehe的运行机制,以至于不知道如何才能够写出能够配合CPUCaChe工作机制的代码,一旦你掌握了它,你写代码的时候,就有新的优化思路了。那么,接下来我们就来看看,CPUCache到底是什么样的,是如何工作的呢,又该

2、如何写出让CPU执行更快的代码呢?根据摩尔定律,CPU的访问速度每18个月就会翻倍,相当于每年增长60%左右,内存的速度当然也会不断增长,但是增长的速度远小于CPU,平均每年只增长7%左右。于是,CPU与内存的访问性能的差距不断拉大。到现在,一次内存访问所需时间是200-300多个时钟周期,这意味着CPU和内存的访问速度已经相差2OO3OO多倍了。为了弥补CPU与内存两者之间的性能差异,就在CPU内部引入了CPUCaChe,也称高速缓存。CPUCache通常分为大小不等的三级缓存,分别是11Cache12Cache和13Cacheo由于CPUCaChe所使用的材料是SRAM,价格比内存使用的D

3、RAM高出很多,在当今每生产IMB大小的CPUCaChe需要7美金的成本,而内存只需要0.015美金的成本,成本方面相差了466倍,所以CPUCaChe不像内存那样动辄以GB计算,它的大小是以KB或MB来计算的。其中,11CaChe通常会分为数据缓存和指令缓存,这意味着数据和指令在11Cache这一层是分开缓存的,13Cache比11Cache和12Cache大很多,这是因为1ICaehe和12Cache都是每个CPU核心独有的,而13Cache是多个CPU核心共享的。程序执行时,会先将内存中的数据加载到共享的13Cache中,再加载到每个核心独有的12Cache,最后进入到最快的11CaCh

4、e,之后才会被CPU读取。他们之间的层级关系如下图所示:12Cache13Cache越靠近CPU核心的缓存其访问速度越快,CPU访问11Cache只需要24个时钟周期,访问12Cache大约10-20个时钟周期,访问13Cache大约20-60个时钟周期,而访问内存速度大概在200-300个时钟周期之间CPUCache的数据是从内存中读取过来的,它是以一小块一小块读取数据的,而不是按照单个数组元素来读取数据的,在CPUCaChe中的,这样一小块一小块的数据,称为CaChe1ine(缓存块),假如1ICaChe一次载入数据的大小是64字节,有一个imarray100的数组,当载入array时,由

5、于这个数组元素的大小在内存只占4字节,不足64字节,CPU就会顺序加载数组元素到array15,意味着array0array15数组元素都会被缓存在CPUCache中了,因此当下次访问这些数组元素时,会直接从CPUCaChe读取,而不用再从内存中读取,大大提高了CPU读取数据的性能。事实上,CPU读取数据的时候,无论数据是否存放到CaChe中,CPU都是先访问CaChe,只有当CaChe中找不到数据时,才会去访问内存,并把内存中的数据读入到CaChe中,CPU再从CPUCaChe读取数据。那CPU怎么知道要访问的内存数据,是否在CaChe里?如果在的话,如何找到Cache对应的数据呢?最简单、

6、基础的方法就是直接映射Cache(DirectMappedCache)。CPU访问内存数据时,是一小块一小块数据读取的,具体这一小块数据的大小,取决于Coherencyine_size的值,一般64字节。在内存中,这一块的数据我们称为内存块(B1ock),读取的时候我们要拿到数据所在内存块的地址。对于直接映射CaChe采用的策略,就是把内存块的地址始终映射在一个CPUCache1ine(缓存块)的地址,至于映射关系实现方式,则是使用取模运算,取模运算的结果就是内存块地址对应的CPUCaChe1ine(缓存块)的地址。举个例子,内存共被划分为32个内存块,CPUCaChe共有8个CPUCaChe

7、1ine,假设CPU想要访问第15号内存块,如果15号内存块中的数据已经缓存在CPUCache1ine中的话,则是一定映射在7号CPUCache1ine中,因为15%8的值是7。使用取模方式映射的话,就会出现多个内存块对应同一个CPUCaChe1ine,比如上面的例子,除了15号内存块是映射在7号CPUCaChe1ine中,还有7号、23号、31号内存块都是映射到7号CPUCaChe1ine中。B1ock32因此,为了区别不同的内存块,在对应的CPUCaChe1ine中我们还会存储一个组标记(Tag)。这个组标记会记录当前CPUCache1ine中存储的数据对应的内存块,我们可以用这个组标记来

8、区分不同的内存块。除了组标记信息外,CPUCaChe1ine还有两个信息:一个是,从内存加载过来的实际存放数据(Data)。另一个是,有效位(Va1idbit),它是用来标记对应的CPUCaChe1ine中的数据是否是有效的,如果有效位是0,无论CPUCaChe1ine中是否有数据,CPU都会直接访问内存,重新加载数据。CPU在从CPUCaChe读取数据的时候,并不是读取CPUCaChe1ine中的整个数据块,而是读取CPU所需要的一个数据片段,这样的数据统称为一个字(Word)。那怎么在对应的CPUCaChe1ine中数据块中找到所需的字呢?答案是,需要一个偏移量(OffSet)。因此,一个

9、内存的访问地址,包括组标记、CPUCaChe1ine索引、偏移量这三种信息,于是CPU就能通过这些信息,在CPUCaChe中找到缓存的数据。而对于CPUCaChe里的数据结构,则是由索引+有效位+组标记+数据块组成。如果内存中的数据已经在CPUCache中了,那CPU访问一个内存地址的时候,会经历这4个步骤:根据内存地址中索引信息,计算在CPUCaChe中的索引,也就是找出对应的CPUCache1ine的地址;找到对应CPUCaChe1ine后,判断CPUCaChe1ine中的有效位,确认CPUCaChe1ine中数据是否是有效的,如果是无效的,CPU就会直接访问内存,并重新加载数据,如果数据有效,则往下执行;对比内存地址中组标记和CPUCache1ine中的组标记,确认CPUCache1ine中的数据是我们要访问的内存数据,如果不是的话,CPU就会直接访问内存,并重新加载数据,如果是的话,则往下执行;根据内存地址中偏移量信息,从CPUCache1ine的数据块中,读取对应的字。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 应用文档 > 汇报材料

copyright@ 2008-2022 001doc.com网站版权所有   

经营许可证编号:宁ICP备2022001085号

本站为文档C2C交易模式,即用户上传的文档直接被用户下载,本站只是中间服务平台,本站所有文档下载所得的收益归上传人(含作者)所有,必要时第一文库网拥有上传用户文档的转载和下载权。第一文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。若文档所含内容侵犯了您的版权或隐私,请立即通知第一文库网,我们立即给予删除!



客服