内存带宽,易被低估的AI 性能胜负手

Intel Xeon 6 processors deliver exceptional performance for the widest range of workloads and are engineered for efficiency and low total cost of ownership. On Feb. 24, 2025, Intel launched the Intel Xeon 6700P and 6500P series P-core processors with more cores, double the memory bandwidth and AI acceleration in every core. (Credit: Intel Corporation)

英特尔至强处理器率先支持 8000 MT/s RDIMM,揭示为何数据流动正成为 AI 时代的核心竞争力

作者:Srini Krishna —— 英特尔公司数据中心事业部院士 

除了加速器,AI 性能还要看内存输送数据的速度

聊到AI,大家往往关注的是整个系统中最瞩目的部分,比如加速器、集群规模、模型大小。但随着 AI 系统变得越来越复杂,数据中心负责人们必须要面对一个务实且重要的问题:我们的平台能否迅速调度数据,让整个庞大的算力系统满载运转?

比拼内存带宽的时刻,到了

现代 AI 主机 CPU 需要支持更大的模型、更密集的 GPU 配置以及数据密集程度越来越高的管道。在这种环境下,内存性能不再是一个次要的规格指标。它将决定 CPU、加速器和存储是作为一个协同系统紧密运行,还是在等待数据中处于闲置。

正是洞察到这一痛点,英特尔在至强6平台上持续提升了内存的性能。英特尔至强6787P计划在特定SKU上支持 1DPC 8000 MT/s RDIMM,相比当前的 6400 MT/s RDIMM,内存速度提升了 25%,内存延迟降低了 6%¹。对于设计 AI、分析和其他以数据为中心的基础设施的客户来说,这些提升至关重要,可以让整个系统中的数据传输更加高效。

英特尔至强6+处理器和英特尔至强6处理器率先在主流服务器平台中,将 8000 MT/s RDIMM支持推向市场(通过 UPLR发布和英特尔至强6 BIOS 更新实现),这为要求严苛的工作负载带来了全新水平的RDIMM内存带宽。量产时间预计在 2026年8月至9月期间。

精准发力,直击基础设施掌门人的核心痛点

这一升级给客户带来的收益,远不止于内存规格参数的提升。与当前主流的6400 MT/s RDIMM部署方案相比,实测数据显示,8000 MT/s RDIMM 在各类工作负载下性能均有提升¹,其中内存带宽敏感的应用获益更为显著。整体而言,升级至8000 MT/s RDIMM ,可带来高达20%的总内存带宽增长¹。这将持续为CPU和AI加速器提供充足的数据供给,从而有效降低因内存瓶颈引发的性能损失。

对于数据中心团队而言,这印证了一个朴素而深刻的法则:系统均衡才是制胜之道。更快的加速器或更高的核心数固然好,但只有当平台其他组件能够为其高效供给数据、编排并弹性扩展时,才能真正释放价值。内存带宽,正是维系这一均衡的根基之一。

照亮未来演进之路

内存可用性与生态成熟度,极大地影响了部署节奏。更广泛的内存支持,让客户能够在出色性能、容量、成本之间灵活权衡、动态优化,为愈发数据密集型的工作负载提前铺平道路。

放眼未来,英特尔还计划于 2027 年第一季度,为 英特尔至强6900P处理器引入第二代 MRDIMM 支持,内存速度最高可达 8800 MT/s。这一技术升级,将为拥有 72 至 128 核的高核心平台提供卓越且具延续性的性能支撑。该路线图将帮助企业在 AI、数据分析及高性能计算等高负载场景中,不断提升算力密度的同时,持续扩展内存带宽。

内存速度,逐渐成为AI竞争中的关键变量。企业只有将内存提升到基础设施战略的高度来规划,而不仅仅将其视作平台规格表上的一行参数,才能从 AI 投资中获取更多价值。英特尔至强 6 要做的就是帮客户把这一理念落地,通过构建均衡的高性能系统,让企业能真正把AI投入转化为回报。

性能因使用情况、配置和其他因素而异。请前往Performance Index了解更多信息。

性能结果基于截至所示日期的配置测试,或未反映所有公开可用的更新。配置详情请参阅备份资料。任何产品或组件都无法保证绝对安全。测试结果均为估算或模模拟值。

实际成本和性能结果可能有所差异。

基准配置:

1单节点,2x 英特尔至强 6787P,86 核,开启 HT,开启 Turbo,总内存 1024GB(16x64GB DDR5 6400 MT/s [6400 MT/s]),微代码 0x1000441,1x I210 千兆网络连接,1x 1.7T Micron_7450_MTFDKBG1T9TFR,CentOS Stream 9, 6.6.0-gnr.bkc.6.6.37.1.51.x86_64。

新配置:

单节点,2x 英特尔至强 6787P,86 核,开启 HT,开启 Turbo,总内存 1024GB(16x64GB DDR5 8000MT/s [8000MT/s]),微代码 0x1000442,1x I210 千兆网络连接,1x 1.7T Micron_7450_MTFDKBG1T9TFR,CentOS Stream 9, 6.6.0-gnr.bkc.6.6.37.1.51.x86_64。350W TDP。由英特尔于 2026 年 6 月进行测试。

软件: Intel Memory Latency Checker v3.12。

工作负载:延迟:MLC local socket local cluster memory latency random。 内存带宽:MLC Peak BW - 2TPC All Sockets 2R1W NTW - triad like。

请参阅https://edc.intel.com/content/www/us/en/products/performance/benchmarks/overview/上的 [7G40]。结果可能有所差异。