数据中心面临着三大内存挑战,这些挑战成为了提升性能和降低总体拥有成本(TCO)的障碍。
首先,当前服务器内存层次结构存在局限性。直接连接的DRAM和固态硬盘(SSD)存储之间存在三个数量级的延迟差距。当处理器用完直接连接内存的容量时,必须转向SSD,这使得处理器处于等待状态。这种等待,即延迟,对计算性能产生了显著的负面影响。
其次,多核处理器的核心数量增长速度远远超过了主内存通道的扩展速度。这意味着超过一定数量的处理器核心会面临内存带宽不足的问题,从而削弱了增加更多核心所带来的好处。
最后,随着加速计算的日益普及,加速器拥有自己的直接连接内存,由此产生了内存资源利用率低或闲置的问题。