全面分析服务器/AI计算的算力框架

人工智能

636人已加入

描述

​     ChatGPT的发布类似于Windows的诞生。ChatGTP作为大语言模型,将会起到信息系统入口的作用,同时,ChatGPT或将重塑目前的软件生态。 计算是AI算力的核心引擎,存储、网络、软件是AI算力的主要发展方向。 1)计算:GPU是ChatGPT训练和推理的核心支柱,其更新速度远超过“摩尔定律” ,受益于AI和高性能市场需求增长,GPU行业景气度显著提升。AI服务器作为GPU的重要载体,预计其市场规模、渗透率将随着GPU放量迎来同步高增。 2)网络:已成为限制AI算力提升的主要瓶颈,英伟达推出InfiniBand架构下的NVLink、NVSwtich等方案,将GPU之间的通信能力上升到新高度。而800G、1.6T高端光模块作为AI训练的上游核心器件,将受益于大模型训练需求的增长。 3)存储:“内存墙”是制约算力提升的重要因素。NAND、DRAM等核心存储器在制程方面临近极限,不断探索“3D”等多维解决方案。HBM基于其高宽带特性,成为了高性能GPU的核心组件,市场前景广阔。  

计算:GPU为算力核心,服务器为重要载体

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

网络:数据中心算力瓶颈,光模块需求放量

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

存储:人工智能“内存墙”,3D工艺持续突破

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

集成威廉希尔官方网站

编辑:护肤

 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分