0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

PCIe 6.0元年,AI与HPC迎来新速度

E4Life 来源:电子发烧友网 作者:周凯扬 2024-01-31 09:02 次阅读

电子发烧友网报道(文/周凯扬)2022年1月,PCI-SIG发布了PCIe 6.0规范,正式拉开了接口带宽大幅升级的序幕。然而,在规范公布的两年时间里,也已经更新了6.0.1和6.1版本,PCIe 6.0似乎在设计层面上已经完善了。但我们这期间并没有看到PCIe 6.0产品的实际落地,甚至PCIe 5.0产品只是在消费级产品小批量落地而已。而在今年三月,根据PCI-SGI的预测,PCIe 6.0的硬件终于快要面世。

AI/ML、HPC和云端图形负载渴求的翻倍带宽

作为从服务器与PC起家的接口,PCIe近几年已经开始辐射到以数据为核心的应用中去,比如IoT、汽车和医疗电子等。从PCIe 3.0开始,每一代接口标准规范都会为速率带来翻倍的提升,PCIe 6.0更是将速率提升至64GT/s,x16单向带宽拔高至256GB/s。

这样的速率或许在IoT应用中显得有些多余,但在时下大热的AI/ML应用中,可以说是大幅提高计算效率的杀手锏。要知道目前爆火的生成式AI应用ChatGPT等,可谓受尽了大量同时访问与需求的困扰,即便H100的带宽再高,在PCIe 5.0下依然计算效率受限,得靠NVLink才能突破限制。

目前的数据中心,尤其是其中的AI服务器,已经成了带宽无底洞。何况对于处理AI/ML训练模型来说,以快制胜可以说是一条市场铁则。更快的带宽意味着生成式AI的并发响应更快,给到更短的文本、图形生成时间,从而进一步提升用户体验。而对于大部分托管/租用服务器的应用开发者来说,这也意味着运营成本大幅降低。

HPC也不例外,在长时间运转的HPC服务器中,带宽就意味着计算效率,尤其是量子力学、分子动力学所用到的软件,所需内存带宽更高。如果没有足够的带宽,就只能分节点来减小不同进程之间的带宽竞争。最后一大痛点是云游戏带来的,对于这种需要多并发高图形负载的运用而言,带宽就决定了云游戏的并发数以及图形质量。

AI/ML会加速PCIe 6.0的落地吗

从PCIe的发展历史来看,平均3到4年就会正式推出新的规范,只有从3.0到4.0经历了7年的漫长的时间,这也是因为彼时的PCIe 3.0已经算是超前的标准,直到2015年后,全球数据流量进入爆发期。此后从4.0演进至5.0花了2年时间,从5.0演进至6.0花了三年时间。据推测,PCIe 7.0规范将在2025年正式推出。

然而我们也发现,基于新标准的PCIe产品在落地速度上并没有那么快。往往最先落地的是AI加速器、SSD等设备,毕竟本地处理速度再快也要网络速度跟上才行。就拿还未实现的800G以太网为例,其所需要的单向带宽也就是100GB/s,正好在PCIe 6.0的带宽覆盖范围内。

所以即便有着AI/ML的推进,今年应该只会有少数PCIe 6.0产品能够落地,且落地场景还是集中在数据中心领域,且先一步用于AI服务器上,这点从PCIe 6.0控制器IP、服务器CPU IP厂商的动向上也可以看出。

写在最后

PCIe 6.0作为目前最先进的接口标准之一,注定会为下一轮计算、存储技术的创新带来设计便利。但我们也应该实时关注市场需求,过去的PCIe能够维持主流接口的地位,正是靠的联合硬件厂商稳步推进市场需求,这个策略在AI时代依旧通用。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 接口
    +关注

    关注

    33

    文章

    8582

    浏览量

    151064
  • AI
    AI
    +关注

    关注

    87

    文章

    30805

    浏览量

    268929
  • PCIe
    +关注

    关注

    15

    文章

    1236

    浏览量

    82604
收藏 人收藏

    评论

    相关推荐

    云计算和HPC的关系

    尽管云计算和HPC在架构、应用场景和成本效益等方面存在显著差异,但云计算和HPC之间并非孤立存在,而是相互补充、协同发展的关系。下面,AI部落小编带您探讨云计算和HPC的关系。
    的头像 发表于 12-14 10:35 99次阅读

    PCIe的最新发展趋势

    通过优化信号传输和降低功耗,实现了更高的能效。例如,PCIe 5.0和6.0在保持高速度的同时,也实现了更低的功耗。 3. 更
    的头像 发表于 11-06 09:35 587次阅读

    如何测试PCIe插槽的速度

    插槽的速度取决于其版本和通道数。例如,PCIe 3.0 x16插槽的理论最大带宽为32 Gbps,而PCIe 4.0 x16插槽的理论最大带宽为64 Gbps。 2. 检查硬件规格 在测试之前,需要
    的头像 发表于 11-06 09:23 1310次阅读

    维谛技术(Vertiv):未来HPC,你想象不到的酷炫变革!

    随着AI技术的迅猛发展,高性能计算(HPC)也迎来了新的变革浪潮。在2024全球超级计算机Green500排行榜上,位列前三的超算都采用了“超智融合”的技术理念。超级大脑+AI,科技新
    的头像 发表于 10-30 11:12 243次阅读
    维谛技术(Vertiv):未来<b class='flag-5'>HPC</b>,你想象不到的酷炫变革!

    AIHPC技术推动先进封装行业发展

    “随着人工智能(AI)和高性能计算(HPC)技术的迅猛发展,半导体行业也迎来了新的变革浪潮。”——这句话在2024的今天,早已被喻为行业共识。
    的头像 发表于 10-22 11:22 448次阅读

    Cadence展示完整的PCIe 7.0 IP解决方案

    十多年来,Cadence 对 PCIe 技术的坚定承诺和支持,在业界有目共睹。我们深知强大 PCIe 生态系统的重要性,并感谢 PCI-SIG 提供的平台。在 PCI-SIG 开发者大会迎来 32 周年之际,Cadence 宣布
    的头像 发表于 08-29 09:14 514次阅读
    Cadence展示完整的<b class='flag-5'>PCIe</b> 7.0 IP解决方案

    新思科技PCIe 7.0验证IP(VIP)的特性

    在近期的博文《新思科技率先推出PCIe 7.0 IP解决方案,加速HPCAI等万亿参数领域的芯片设计》中,新思科技宣布推出综合全面的PCIe Express Gen 7(
    的头像 发表于 07-24 10:11 669次阅读
    新思科技<b class='flag-5'>PCIe</b> 7.0验证IP(VIP)的特性

    如何简化PCIe 6.0交换机的设计

    由于全球数据流量呈指数级增长,PCIe 6.0 交换机的市场需求也出现了激增。PCIe 6.0 交换机在高性能计算(HPC)系统(尤其是数据
    的头像 发表于 07-05 09:45 543次阅读
    如何简化<b class='flag-5'>PCIe</b> <b class='flag-5'>6.0</b>交换机的设计

    华为汪涛:5G-A商用元年AI入端元年碰撞,将开启“移动AI时代”

    [中国,上海,20246月26日] 2024 MWC上海期间,华为常务董事、ICT基础设施业务管理委员会主任汪涛在大会上发表了“加速5G-A发展,开启移动AI时代”的主题演讲。他表示,2024
    的头像 发表于 06-27 17:28 1216次阅读

    下一代PCIe5.0 /6.0技术热潮趋势与测试挑战

    大模型时代已经到来,AI大模型技术快速成熟,进入万亿参数时代,对于AI算力性能要求越来越高,表现为计算系统的节点内卡间互联与节点间的网络互联,高速互联的底层是PCIe,对于PCIe的技
    的头像 发表于 03-06 10:35 1035次阅读
    下一代<b class='flag-5'>PCIe</b>5.0 /<b class='flag-5'>6.0</b>技术热潮趋势与测试挑战

    AI视频大爆发!2023AI视频生成领域的现状全盘点

    2023,也是AI视频元年。过去一究竟有哪些爆款应用诞生,未来视频生成领域面临的难题还有哪些?
    的头像 发表于 02-20 10:40 1212次阅读
    <b class='flag-5'>AI</b>视频<b class='flag-5'>年</b>大爆发!2023<b class='flag-5'>年</b><b class='flag-5'>AI</b>视频生成领域的现状全盘点

    重读AI大模型元年:“百模赶考,文心夺魁”

    AI大模型爆发元年,留给我们的行业思考与未来洞察
    的头像 发表于 02-12 19:01 2674次阅读
    重读<b class='flag-5'>AI</b>大模型<b class='flag-5'>元年</b>:“百模赶考,文心夺魁”

    2024,人形机器人迎来产业化元年

    2023,人形机器人Digit进入亚马逊工厂验证,2024,特斯拉人形机器人,优必选、智机器人有望分别进入特斯拉工厂和BYD工厂进行商业化验证,人形机器人迎来产业化
    发表于 01-23 11:30 557次阅读

    AI手机比例有较大提升 2024将成为AI手机的元年

    2024AI手机的比例将有较大提升,将成为AI手机的元年
    的头像 发表于 01-22 11:19 1088次阅读
    <b class='flag-5'>AI</b>手机比例有较大提升 2024<b class='flag-5'>年</b>将成为<b class='flag-5'>AI</b>手机的<b class='flag-5'>元年</b>

    新火种AI|“赌城”上演“科技春晚”,AI硬件将在2024大爆发

    如果说2023是生成式AI元年,那么2024将会是AI硬件的元年
    的头像 发表于 01-12 18:26 832次阅读
    新火种<b class='flag-5'>AI</b>|“赌城”上演“科技春晚”,<b class='flag-5'>AI</b>硬件将在2024<b class='flag-5'>年</b>大爆发