随着AI技术从机器学习演进至深度学习,并进一步迈向生成式AI的新阶段,算法、算力及数据需求呈现出爆炸式增长态势。大模型爆发初期,众多企业布局,要求存储提供高带宽、高IOPS和低时延,以确保模型能够快速有效地进行训练。而在模型的实际部署与应用过程中,又需要实现数据的跨域、跨介质灵活调度,以及高质量数据集的高效管理,这对存储系统的灵活性、安全性及数据的可持续访问能力构成了新的挑战。
在近期举办的中国数据与存储峰会AI+存储协同发展william hill官网 上,分布式存储产品总监张业兴发表了题为“数聚存储,智慧未来”的演讲。演讲中,张业兴不仅回顾了过去一年人工智能领域的迅猛发展态势,还深入阐述了浪潮信息在这一背景下如何精心布局新产品、新技术和新方案。
AI时代:存储的转型与重塑
人工智能已被提升至国家战略的高度,成为驱动新质生产力发展的关键力量。张业兴指出,数据作为一种新型生产要素,不仅是劳动工具,还能创造经济价值。随着数据的迅猛增长和摩尔定律的持续推动,人工智能正步入一个爆发式增长的阶段,特别是在GPU市场规模及智能算力领域,展现出了惊人的增长潜力。据预测,至2028年,全球GPU市场规模有望达到2461.5亿美元,而中国市场的规模也将攀升至459亿美元,年复合增长率高达32.8%。这一趋势清晰地表明,人工智能正引领着第四次工业革命,对经济社会产生着广泛而深远的影响。
在人工智能时代的大背景下,存储系统的角色已悄然转变,它不再是单纯的数据存储容器,而是成为了推动人工智能发展的核心组件。随着大模型技术的蓬勃发展,存储系统正面临着前所未有的挑战。在大模型市场的初期布局中,已有超过400家厂商争相涌入,模型训练的“速度”成为了竞争的关键。为了提高GPU的利用效率,存储系统必须能够提供TB级的高带宽和百万级的高IOPS,以确保模型训练的高效运行。
此外,随着模型在各行业的落地,数据的跨域和跨介质调动变得至关重要,存储系统需要实现全局命名空间的管理,以支持大规模数据的高效汇集和利用。同时,在大模型的行业化落地过程中,为了提升通用模型的专业化能力,高质量且可重复利用的数据集成为了不可或缺的资源。数据的安全存储与可持续性访问能力成为了存储系统必须满足的重要要求。
AS13000G7:解锁存储潜能,赋能AI未来
针对上述挑战,浪潮信息推出了分布式融合存储平台AS13000G7,在性能优化、融合互通、韧性保障等多个维度进行了技术创新。
在性能优化方面,AS13000G7通过数控分离架构,减少了数据在转发和拷贝过程中的延迟,单流带宽可达15GB/s,单节点带宽超过100GB/s,相比传统数控一体架构性能提升60%以上。此外,AS13000G7能够智能识别大IO和小IO,通过切片处理和聚合处理,将不同规模的数据形成统一的数据团,并存入全局缓存中,实现小IO性能提升5倍。同时,数据缓存预读功能能够在训练过程中提前加载热点数据,进一步提升数据加载速度。另外,AS13000G7还设计了全用户态的轻量级IO站,利用多任务并行和无锁IO处理技术,实现了延迟降低40%,训练数据加载时间减少30%。
在近期发布的MLPerf Storage v1.0 AI存储基准测试中,AS13000G7参与了八项测试并获得了五项全球第一的成绩,如3D-UNet测试中,支持264个模拟加速器,GPU利用率超90%时提供360GB每秒带宽,单节点带宽超120GB每秒;在CosmoFlow模型测试中,样本读取时间极短,单客户端和多客户端分别提供了18GB/s和52GB/s的带宽。
在融合互通方面,AS13000G7支持多种接入协议,如NFS和S3等,并通过复原数据管理实现文件和对象数据的协议互通、语义无损以及性能一致,避免了数据格式转换和多份存储的问题,为用户节省了高达50%的存储空间。同时,AS13000G7还建立了全局统一命名空间,纳管所有数据,实现跨域、跨介质和跨协议的灵活调动,提供统一数据视图,并支持10亿级文件秒级检索,有效解决了数据孤岛问题,方便用户数据访问与管理。
在韧性保障方面,AS13000G7定期进行亚健康检测,并通过内部冗余保护机制实现免迁移快速重构,将TB级重构时间降至5分钟内,每次故障恢复时间降低90%。此外,AS13000G7运用AIOps算法预测磁盘故障、容量趋势、性能趋势和SSD寿命,其中磁盘故障预测准确率达98%以上,误报率仅0.007%。在数据安全层面,AS13000G7设置了五层系统防护,采用快筛机器学习和深筛深度学习算法来检测恶意软件,漏报率仅为0.029%,误报率为0.33%。
面向大模型应用,基于AS13000G7的AI存储解决方案,整合不同盘位存储设备形成统一资源池,提供高性能、高利用率和高韧性,满足数据全生命周期需求。结合AI资源调度平台,提升数据预读加载效率30%,已服务众多AIGC客户。
在上海某高校的应用案例中,由于该校拥有多个与AI相关的学科,数据导入呈现出多元多态的特点,业务需求也涵盖了数据的汇集、处理、训练和推理等多个环节。浪潮信息为其提供32节点GPU服务器作为计算支持,并配置20个节点的AS13000G7 24盘位全闪节点作为存储资源池,实现对象文件融合存储,降低总体拥有成本(TCO)达30%,大带宽高IOPS的特性支持了模型毫秒级读写,进一步缩短训练等待时间40%。
AS13000G7分布式融合存储平台以其高性能、高效率和高韧性,成为支持人工智能发展的理想选择。在人工智能蓬勃发展的时代,浪潮信息将凭借其卓越的产品和解决方案,积极应对挑战,抓住机遇,为构建智慧未来奠定了坚实的数据存储基础,成为行业发展的重要引领者。
全部0条评论
快来发表一下你的评论吧 !