电子发烧友网报道(文/黄晶晶)CXL即Compute Express Link,是一种全新的互连协议,为各种处理器包括CPU、GPU、FPGA、加速器和存储设备提供统一接口标准,可以有效解决内存墙和IO墙的瓶颈。它通过PCI Express的物理层,提供低延迟和高带宽的连接,旨在支持下一代数据中心的高性能计算和内存密集型工作负载。
CXL主要有CXL.io、CXL.cache和CXL.memory三个子协议,分别处理I/O、缓存一致性和内存访问。PCIe物理层为CXL高效的数据传输提供技术底座,CXL.cache和CXL.memory子协议协调处理单元的内存一致性,内存池化和热插拔使得数据中心可以更灵活地分配和管理内存资源。
2019年至今,CXL已经发表了1.0/1.1、2.0、3.0/3.1五个不同的版本,主要针对内存池化、内存热插拔、内存共享和访问、以及互连通信能力等进行增强优化。CXL可扩展内存技术发展到3.1阶段,CXL 3.1是对CXL 3.0版本的渐进性的更新,新规范对横向扩展 CXL 进行了额外的结构改进、新的可信执行环境 ehnahcments 以及对内存扩展器的改进。
面对AI大模型对数据处理速度和响应时间的要求不断增长,在处理器、存储芯片、控制器、模组等厂商的推动下,CXL加速发展进程。
利用CXL内存扩展将DDR4 DIMMs“变废为宝”
今年7月Marvell 宣布推出其突破性的Structura CXL产品系列。该系列是业界首款支持四个内存通道、集成内嵌压缩并采用 5 纳米制造工艺的产品。包括Structera A CXL 近内存加速器,和 Structera X CXL 内存扩展控制器。前者是一类新型设备,它们集成了服务器级处理器核心和多个内存通道,以应对高带宽内存应用,例如深度学习推荐模型 (DLRM) 和机器学习。Structera X CXL 内存扩展控制器可以为通用服务器添加数TB的超大容量内存,应对高容量内存应用的需要,例如内存数据库。
CXL主要有CXL.io、CXL.cache和CXL.memory三个子协议,分别处理I/O、缓存一致性和内存访问。PCIe物理层为CXL高效的数据传输提供技术底座,CXL.cache和CXL.memory子协议协调处理单元的内存一致性,内存池化和热插拔使得数据中心可以更灵活地分配和管理内存资源。
2019年至今,CXL已经发表了1.0/1.1、2.0、3.0/3.1五个不同的版本,主要针对内存池化、内存热插拔、内存共享和访问、以及互连通信能力等进行增强优化。CXL可扩展内存技术发展到3.1阶段,CXL 3.1是对CXL 3.0版本的渐进性的更新,新规范对横向扩展 CXL 进行了额外的结构改进、新的可信执行环境 ehnahcments 以及对内存扩展器的改进。
面对AI大模型对数据处理速度和响应时间的要求不断增长,在处理器、存储芯片、控制器、模组等厂商的推动下,CXL加速发展进程。
利用CXL内存扩展将DDR4 DIMMs“变废为宝”
今年7月Marvell 宣布推出其突破性的Structura CXL产品系列。该系列是业界首款支持四个内存通道、集成内嵌压缩并采用 5 纳米制造工艺的产品。包括Structera A CXL 近内存加速器,和 Structera X CXL 内存扩展控制器。前者是一类新型设备,它们集成了服务器级处理器核心和多个内存通道,以应对高带宽内存应用,例如深度学习推荐模型 (DLRM) 和机器学习。Structera X CXL 内存扩展控制器可以为通用服务器添加数TB的超大容量内存,应对高容量内存应用的需要,例如内存数据库。
Structera A 加速器集成了 16 个 Arm Neoverse V2 核心,优化了高内存带宽应用的性能,例如 DLRM和ML/AI任务。DLRM 同时具有稀疏和密集内存操作的特点。稀疏操作可能会遇到内存墙困境,即内存带宽不足以满足可用计算的需求。Structera A 2504 加速器是该系列的第一个产品,支持高达 200 GB/sec内存带宽和 4TB 的内存容量。
随着服务器的世代更替,预计在未来几年内,数百万个仍然具备使用功能的 DDR4 DIMMs 将成为电子废弃物,因为大部分客户开始使用具备 DDR5 内存模块的新服务器替换现有的服务器。而The Structera X 2404 使客户可以从退役的通用服务器中回收他们的 DDR4 DIMMs。
Marvell 表示,使用这些DDR4 DIMMs 来扩展这些服务器的内存容量可以降低每台通用服务器数千美元的资本支出。对退役的 DDR4 DIMMs 进行再利用还有助于实现数据中心的绿色可持续性目标。
Structera X 2404通过先进的CXL技术不仅重新利用DDR4内存条,还可帮助服务器制造商、数据中心运营们减少对更先进内存的依赖,既能降低采购成本又可扩充内存容量。DDR4内存再利用,也能够在一定程度上缓解当前DDR5内存供不应求的形势。
CXL内存模组陆续量产,有望下半年开始爆发
三星电子存储部门新业务规划团队董事总经理 Choi Jang-seok近日表示,CXL市场预计将在今年下半年蓬勃发展,到2028年CXL市场将迅速增长,CXL将成为存储器行业的主流。
早在2021年5月,三星电子开发出全球首款基于CXL的DRAM技术;2022年推出业界首款基于CXL 1.1的512GB CXL DRAM;2023年5月开发出支持CXL 2.0的128GB CXL DRAM;今年第二季度推出支持CXL 2.0的256GB CMM-D产品,计划今年年底之前批量生产。
今年3月,三星电子透露正研发 CMM-H 混合存储 CXL模组。该模组同时包含DRAM 内存和 NAND 闪存。原型 CMM-H 将配备基于 FPGA 的 CXL 1.1 控制器,采用 E3.L 2T 规格,最大容量 4TB,最大带宽 8GB/s。另外,三星第一代CMM-D搭载支持CXL2.0的SoC的,计划在2025年发布搭载第二代控制器、容量为128GB的新产品。
对AI服务器至关重要的技术是CXL,它能有效提升系统带宽和处理能力。SK海力士通过CXL Memory Module-DDR5 4(CMM-DDR5)充分展示了CXL产品的强大优势。与仅采用DDR5的系统相比,它能给系统带宽和容量带来极为显著的提升。
去年8月,美光宣布推出CZ120内存扩展模块,基于CXL2.0Type3标准,采用最新的PCIe5.0x8接口,并且外形符合E3.S2T规格。CZ120内存扩展模块内部搭载了Microchip的SMC2000微控制器,并使用了1α工艺节点生产的DRAM芯片。提供128GB和256GB两种容量选择。CZ120内存扩展模块具备出色的带宽性能,可以提供高达36GB/s的带宽。在特定的工作负载中,如数据库软件,CZ120内存扩展模块的优势更加明显。
另外,国内厂商方面,今年江波龙展出一款基于Compute Express Link (CXL)技术的创新内存扩展设备——CXL 2.0 AIC内存扩展卡。这款扩展卡采用非DRAM on-board封装设计,可兼容多种容量和规格的直插式内存条。它不仅支持CXL1.1标准,实现单个计算节点服务器线缆直连的直插式内存条扩展,还兼容CXL2.0标准,支持多个计算节点服务器集群与存储池线缆直连的直插式内存池化,从而满足多样化的应用场景需求。
小结:
Yole统计显示,全球CXL市场预计从2022年的170万美元增长2028年的150亿美元。处理器方面英特尔发布全新的至强6700E系列处理器,提供了对CXL 2.0技术的支持。CXL 2.0却新增了一系列面向安全、合规、高可靠方面的特性,更适合应用在数据中心。三星支持CXL 2.0的256GB CMM-D产品也将于今年底前量产。同时,各大厂商都在研发支持CXL3.0的处理器、CXL DRAM等产品,从而将内存扩展内存技术的更多特性带入数据中心,加速CXL的应用,毕竟AI对于存储的需求已时不我待。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
存储
+关注
关注
13文章
4311浏览量
85838 -
内存
+关注
关注
8文章
3024浏览量
74038 -
2cxl
+关注
关注
0文章
5浏览量
6412
发布评论请先 登录
相关推荐
韩国无晶圆厂初创公司Panmnesia展示第一个支持CXL的AI集群
CXL的AI集群,以加速用于ChatGPT等服务的下一代人工智能应用RAG,扩大其全球客户群。 AI竞争的加剧
拓展AI数据中心内存,第二代AMD Versal Premium系列自适应SoC,首发支持CXL 3.1、 PCIe Gen6
电子发烧友网报道(文/黄晶晶)在数据中心市场,DDR5和CXL内存正在成为广泛采用的主流趋势。预计2024年到2029年CXL内存的采用将达到212%的年复合增长率。如今,现有出货的半
铠侠投资360亿日元研发CXL省电存储器
近日,日本NAND Flash大厂铠侠宣布,将在未来三年内投资360亿日元,用于研发AI用CXL(Compute Express Link)省电存储器。此次研发得到了日本政府的支持,政府将提供最高
新思科技CXL 3.1验证解决方案
器、内存缓冲区、智能网络接口卡、持久存储器和固态驱动器等设备之间的开放式行业标准互连接口。CXL基于PCIe灵活的数据带宽提供了缓存一致性和存储语义,同时实现比PCIe低得多的延时。
宜鼎全面扩充边缘AI智能应用与智能存储
解决方案,全面加速产业应用边缘AI落地 旗下首款工控级CXL内存、16TB大容量系列SSD,强化智能边缘端及数据中心建设 深圳2024年5月31日 /美通社/ -- 全球
美光HBM3E解决方案,高带宽内存助力AI未来发展
美光近期发布的内存和存储产品组合创新备受瞩目,这些成就加速了 AI 的发展。美光 8 层堆叠和 12 层堆叠 HBM3E 解决方案提供业界前
业界首创512GB CXL AIC内存扩展卡,江波龙革新AI与高性能计算领域内存技术
、大吞吐量的浮点运算。在此背景下,江波龙日前在CFMS2024展出了一款基于Compute Express Link (CXL)技术的创新内存扩展设备——CXL 2.0 AIC
发表于 04-17 14:40
•442次阅读
FORESEE CXL 2.0内存拓展模块
,实现大规模量产和交付。随着AI的快速发展,计算密集型工作负载对存储的低延迟、高带宽提出了前所未有的高要求。ComputeExpressLink(CXL)互连技术为
三星研发CXL混合存储模组,实现闪存与CPU数据直传
据三星展示的图片显示,此模组可以通过CXL接口在闪存部分及CPU之间进行I/O块传输,也可以运用DRAM缓存和CXL接口达到64字节的内存I/O传输。
利用CXL技术重构基于RDMA的内存解耦合
本文提出了一种基于RDMA和CXL的新型低延迟、高可扩展性的内存解耦合系统Rcmp。其显著特点是通过CXL提高了基于RDMA系统的性能,并利用RDMA克服了
发表于 02-29 10:05
•3127次阅读
佰维存储研发突破,为AI高性能计算赋能
近日,佰维存储在接受调研时透露,公司近期成功研发并发布了支持CXL2.0规范的CXLDRAM内存扩展模块。这款产品具有支持内存容量和带宽
三星与Red Hat成功验证CXL内存在真实用户环境中的运行
CXL因具备强大的接口功能,实现了CPU、GPU以及内存之间的快速连接,被广泛应用于生成式人工智能、自动驾驶及内存数据库等项目。利用现有的设备体系,CXL可大幅度地提高速度、降低延迟并
评论