计算机研究与发展

作者：张军,谢竟成,沈凡凡,谭海,汪吕蒙,何炎祥,

关键词：通用图形处理器, 缓存子系统, 性能优化, 延迟隐藏, 缓存争用,

随着工艺和制程技术的不断发展以及体系架构的日趋完善，通用图形处理器(generalpurposegraphicsprocessingunits,GPGPU)的并行计算能力得到了很大的提升，其在高性能、高吞吐量等通用计算应用场景的使用越来越广泛.GPGPU通过支持大量线程的并发执行，可以较好地隐藏长延时访存操作，从而获得高并行计算能力.然而，GPGPU在处理计算和访存不规则的应用时，其存储子系统的效率受到很大影响，尤其是片上缓存的争用情况尤为突出，难以及时提供计算操作所需的数据，使得GPGPU的高并行计算能力不能得到充分发挥.解决片上缓存的争用问题、优化缓存子系统的性能，是优化GPGPU性能的主要解决方案之一，也是目前研究GPGPU性能优化的主要热点之一.目前，针对GPGPU缓存子系统的性能优化研究主要集中在线程级并行度(threadlevelparallelism,TLP)调节、访存顺序调节、数据通量增强、最后一级缓存(lastlevelcache,LLC)优化和基于非易失性存储(non-volatilememory,NVM)的GPGPU缓存新架构设计等5个方面.也从这5个方面重点分析讨论了目前主要的GPGPU缓存子系统性能优化方法，并在最后指出了未来GPGPU缓存子系统优化需要进一步探讨的问题，对GPGPU缓存子系统性能优化的研究有重要意义.

来源：2020年第6期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2020年第6期