0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI算力与能耗兼具,Supermicro梁见后畅谈服务器的绿色计算

21克888 来源:电子发烧友网 作者:黄晶晶 2023-05-31 18:30 次阅读

随着生成式AI人工智能席卷全球,服务器市场将作为产业先锋迎来巨大的发展机会。在日前举办的台北电脑展上,Supermicro总裁兼首席执行官梁见后(Charles Liang)接受电子发烧友网等媒体采访时表示,Supermicro为云端、AI/ML、存储和5G/智能边缘应用的全方位IT解决方案,我们正在推进关键领域的技术发展,包括产品设计、绿色计算、制造和机架级集成,以助力企业及组织快速提高生产效率并降低能耗。

多款服务器产品助力人工智能


Supermicro拥有最全面的产品组合,可以为人工智能工作负载和其他垂直领域提供大力支持。其创新型系统包括基于第四代Intel Xeon可扩展处理器和第四代AMD EPYC 处理器的单插槽和双插槽机架安装系统,提供1U、2U、4U、5U和8U规格,并支持1到10 GPU。此外还包括在8U机箱中支持20个NVIDIA H100 GPU的密度优化型SuperBlade系统,以及专门针对物联网和边缘环境设计的SuperEdge系统。全新发布的E3.S Petascale存储系统在利用超大规模的人工智能数据集进行训练时,表现出了卓越的性能、容量、吞吐量和耐用性,同时还提供出色的能效。


基于NVIDIA Grace CPU超级芯片的新产品系列也将很快上市。这些新服务器均包含144个核心,双CPU及900 GB/s 一致性接口,可运行高响应度的人工智能应用程序和需要极低延迟响应的应用程序。此外,CPU以500W TDP的速度运行,该系统将为云原生工作负载和下一代人工智能应用降低能耗。

三大优势稳固服务器的绿色高效交付


在采访中当问及Supermicro拥有超越行业标准的亮眼成绩,取得巨大成功的原因,以及抓住了哪些机会等话题时,梁见后谈到了成功的三点因素。

一是,模块化解决方案为高效服务客户提供了巨大的助力,它能够更快地把产品交付给客户,减少等候时间,提高服务效率。模块化的解决方案一直都是我们非常重要的成功驱动因素。

其二,绿色计算。从18年前,Supermicro就开始布局绿色计算解决方案,帮助客户进一步减少自己的电力成本以及能源消耗。当前,通过Supermicro的解决方案,数据中心的电力消耗可以降低达30%,让整体成本获得大幅下降。

他表示绿色计算已经成为SupermicroDNA的一部分。“不管是我们所有的产品设计还是威廉希尔官方网站 等等,都会去优化它的能源消耗,提高它的能耗效率,可以极大帮助我们的系统节省5-10%的能源消耗。而在热管理子系统当中,我们也以最优化的设计让冷却设计本身就具备更低的排热和散热的需求,以及采用了很多新的材料来降低散热的能耗需求。我们将会延续我们的绿色计算DNA,做好这些散热优化,以帮助我们的客户降低碳足迹和碳排放。”他说道。

目前,数据中心消耗的电力占到了全球电力需求的1-1.5%,因此绿色计算对于数据中心至关重要。Supermicro完整的机架级液冷解决方案可以大幅降低对传统冷却方法的需求。通过冗余和热插拔电源和泵,机架上的所有高性能AI和HPC优化服务器都能够得到有效冷却,不惧电源或泵发生任何故障。该解决方案还为CPU和GPU量身定制了冷板(Cold Plate),相较于传统设计能够更有效地去除热量。如果数据中心利用Supermicro技术将其PUE降低至近1.0,不仅能节省高达100亿美元的能源成本,并且相当于减少建造30座化石燃料发电厂。

第三是机架级整体解决方案,有效减少客户的等候时间。此前客户需要自身进行整合,现在得益于Supermicro的全机架级完整解决方案,客户能够即插即用,帮助客户实现快速启动,更好地实现业务的发展。

梁见后说,像ChatGPT以及其他很多的AI应用场景下,我们能够加速交付周期,这是非常关键的一点。传统的交付周期,可能客户需要花3个月/6 个月才能完成他们的部署,但是现在有了我们的系统级/机架级的液冷解决方案,所需要的交付周期短至2周。我们的Delta-Next支持正常的液冷/空气冷却,同时客户一旦收到就能够实现即插即用,很多客户都非常青睐这一技术。

他透露,Supermicro在不断地增强投资,现在已经可以每个月交付4000套机架级的解决方案。到今年年末,出货量将会增加到5000套机架级的解决方案。

推动液冷应用,看好下半年至明年的强劲增长


梁见后表示,液冷其实并不是一个新鲜的东西,存在已经超过 30 多年了,但由于面临成本挑战,一直没有成为主流。而Supermicro会大力推广液冷,一旦液冷方案在降低成本之后会带来大规模应用。Supermicro的Building Block解决方案就能够很好应用液体冷却技术。“我们相信随着技术的进步,更多的客户会选择液冷,为此我们也在积极扩张产能服务客户。”

即便由于整体经济的增速减缓,服务器应用端市场可能会稍微放缓,不过梁见后认为通过对客户订单需求的预测来看,今年下半年包括明年都将继续保持强劲的增长。为此Supermicro主要考量如何去更好地满足增长的客户需求。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    12

    文章

    9160

    浏览量

    85420
  • AI
    AI
    +关注

    关注

    87

    文章

    30894

    浏览量

    269085
  • Supermicro
    +关注

    关注

    0

    文章

    29

    浏览量

    9309
收藏 人收藏

    评论

    相关推荐

    计算 开启贵州人工智能服务新篇章

    的贵州计算服务有限公司(以下简称计算)诞生,它依托其特有资源优势,提供专业AI
    的头像 发表于 12-27 00:37 81次阅读
    <b class='flag-5'>算</b>家<b class='flag-5'>计算</b> 开启贵州人工智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务</b>新篇章

    基础篇:从零开始了解

    计算能力(Computing Power),狭义上指对数字问题的运算能力,而广义上指对输入信息处理实现结果输出的一种能力。虽然处理的内容不同,但处理过程的能力都可抽象为
    的头像 发表于 11-15 14:22 666次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基础篇:从零开始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    再跃升!亿万克发布新一代AI服务器——G882N7+!

    的特质,但告急。想要打破数智时代的瓶颈,异构智成为有效方案。 近期,亿万克面向激增的AI
    的头像 发表于 10-25 17:02 214次阅读

    什么是AI服务器AI服务器的优势是什么?

    AI服务器是一种专门为人工智能应用设计的服务器,它采用异构形式的硬件架构,通常搭载GPU、FPGA、ASIC等加速芯片,利用CPU与加速芯片的组合来满足高吞吐量互联的需求,为自然语言处理、计算
    的头像 发表于 09-21 11:43 861次阅读

    服务器为什么选择GPU

    随着人工智能技术的快速普及,需求日益增长。智中心的服务器作为支撑大规模数据处理和计算的核心设备,其性能优化显得尤为关键。而GPU
    的头像 发表于 07-25 08:28 632次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>为什么选择GPU

    ai服务器是什么架构类型

    AI服务器,即人工智能服务器,是专门为人工智能应用设计的高性能计算服务器AI
    的头像 发表于 07-02 09:51 1069次阅读

    AI服务器散热,需要用到哪些导热界面材料?

    在数字经济、AI大模型等发展的带动下,全球服务器的市场需求急剧提升,利用其强大的计算能力,能够处理复杂的算法和海量数据。与此同时,生成式人工智能的大
    的头像 发表于 05-30 10:44 672次阅读
    <b class='flag-5'>AI</b>高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>散热,需要用到哪些导热界面材料?

    引领柔性新风潮,加速企业数智转型首选服务器就是它

    在当今云计算时代,企业对于云服务器的需求已经不仅仅停留在简单的弹性上,更多的是希望能够根据自身业务需求,获得精准、灵活的计算资源,以实现
    的头像 发表于 05-22 19:35 318次阅读
    引领柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新风潮,加速企业数智转型首选<b class='flag-5'>服务器</b>就是它

    智能存在缺口,AI服务器市场规模持续提升

    商的资本支出将大幅增加。全球前四大云服务商资本支出调升,预计将从2023年的1400亿美元提升至2024年的超过2000亿美元。   AI 服务器市场规模持续增长   近些年,人工智能技术在各个领域广泛应用,包括智能制造、智慧医
    的头像 发表于 05-22 00:14 3093次阅读

    256Tops!CSA1-N8S1684X服务器

    (基于BM1684X的高服务器)高AI处理
    的头像 发表于 03-23 08:02 1639次阅读
    256Tops<b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>

    联想首台搭载国产AI芯片服务器成功交付

    在联想(全球)最大的智能计算设备研发和制造基地——联宝科技,一场科技界的盛事吸引了业界的广泛关注。这一天,中国领先的智能IT基础设施提供商联想成功交付了首台可搭载国产AI芯片的联想
    的头像 发表于 03-20 09:42 767次阅读

    Supermicro全新系统产品组合将前沿AI性能推向边缘计算环境

    ,正在扩展其AI解决方案产品组合,让客户在公共空间、零售商店或工业基础架构等边缘位置能有效运用AI的强大性能。通过使用搭载NVIDIA GPU的Supermicro应用优化服务器,可更
    的头像 发表于 02-24 09:10 996次阅读
    <b class='flag-5'>Supermicro</b>全新系统产品组合将前沿<b class='flag-5'>AI</b>性能推向边缘<b class='flag-5'>计算</b>环境

    超微CEOAI浪潮推动公司快速发展,但也面临AI芯片短缺问题

    这家坐落于加州圣何塞的企业专注于研发和制造高效能服务器——其中基于英伟达(NVIDIA)架构的服务器产品备受行业瞩目。在访谈中指出,若
    的头像 发表于 02-20 14:10 961次阅读

    Supermicro推新AI存储方案,助力AI和ML应用加速

    Supermicro首席执行官先生高瞻远瞩地指出:针对AI和ML应用的加速处理,我们推荐配置以每机柜20 PB高速闪存为主,配备四个N
    的头像 发表于 02-03 14:46 636次阅读

    国产服务器主阵地有哪些?

    AI 、低功耗等对服务器芯片提出新的要求,英伟达 GH200 有望加速全球
    的头像 发表于 01-29 11:29 1265次阅读
    国产<b class='flag-5'>服务器</b>主阵地有哪些?