7月13-14日,第三届中国集成威廉希尔官方网站 设计创新大会暨无锡IC应用博览会(ICDIA 2023)在无锡举行。天数智芯副总裁郭为受邀出席“AIoT与ChatGPT”分william hill官网 并发表了题为《国产GPU的大模型实践》的主题演讲,全面介绍了天数智芯通用GPU产品特色以及在大模型上的应用情况。
天数智芯副总裁郭为
郭为指出,算力关乎大模型产品的成败。作为中国领先的通用GPU 高端芯片及超级算力系统提供商,天数智芯先后发布了训练产品天垓100、推理产品智铠100,充分发挥产品自主可控、性能高、通用性强、灵活性高等特点,广泛支持主流AI生态和国内外开发框架,倾力打造了高性价比、广通用的全栈式集群解决方案,为大模型提供了强大算力支撑。
郭为介绍,去年以来天数智芯在大模型训练、推理支持上取得了显著进展。基于天垓100的自主算力集群已率先完成国内70亿参数大模型训练,200P规模算力集群正在开展650亿参数大模型预训练。此外,天垓100正支持各垂直行业大模型训练微调,可支持全量参数微调、Lora快速微调、提示词微调等所有训练微调方法。智铠100支持千亿级参数大模型推理,基于智铠100的推理一体机已应用于法律、金融等行业客户大模型推理业务中,提供较国际主流产品更优的性能、性价比及能耗。
郭为表示,天数智芯将始终以服务国家战略为主线,持续推进通用GPU核心技术创新突破,打造更可信、更高效、更绿色的世界一流算力引擎,赋能大模型创新发展。
作为国内集成威廉希尔官方网站 领域推动“创新”与“应用”的重要平台,ICDIA致力于推动IC设计与芯片应用、促进芯片与系统整机供需对接,实现芯片企业和整机企业的互惠发展。科技部重大专项司副司长邱钢,江苏省科技厅二级巡视员杨小平,无锡市副市长周文栋,国家01专项技术总师、中国集成威廉希尔官方网站 设计创新联盟理事长、清华大学教授魏少军等出席了本届会议。
END
原文标题:夯实算力基础 赋能大模型创新发展
文章出处:【微信公众号:天数智芯】欢迎添加关注!文章转载请注明出处。
全部0条评论
快来发表一下你的评论吧 !