夯实算力基础 赋能大模型创新发展

描述

 

7月13-14日,第三届中国集成威廉希尔官方网站 设计创新大会暨无锡IC应用博览会ICDIA 2023)在无锡举行。天数智芯副总裁郭为受邀出席“AIoT与ChatGPT”分william hill官网 并发表了题为国产GPU的大模型实践的主题演讲全面介绍了天数智芯通用GPU产品特色以及在大模型上的应用情况

天数智芯

天数智芯副总裁郭为

郭为指出,算力关乎大模型产品的成败。作为中国领先的通用GPU 高端芯片及超级算力系统提供商,天数智芯先后发布了训练产品天垓100、推理产品智铠100,充分发挥产品自主可控、性能高、通用性强、灵活性高等特点,广泛支持主流AI生态和国内外开发框架,倾力打造了高性价比、广通用的全栈式集群解决方案,为大模型提供了强大算力支撑。

 

 

天数智芯

郭为介绍,去年以来天数智芯在大模型训练、推理支持上取得了显著进展。基于天垓100的自主算力集群已率先完成国内70亿参数大模型训练,200P规模算力集群正在开展650亿参数大模型预训练。此外,天垓100正支持各垂直行业大模型训练微调,可支持全量参数微调、Lora快速微调、提示词微调等所有训练微调方法。智铠100支持千亿级参数大模型推理,基于智铠100的推理一体机已应用于法律、金融等行业客户大模型推理业务中,提供较国际主流产品更优的性能、性价比及能耗。

 

 

天数智芯

郭为表示,天数智芯将始终以服务国家战略为主线,持续推进通用GPU核心技术创新突破,打造更可信、更高效、更绿色的世界一流算力引擎,赋能大模型创新发展。

 

 

 

作为国内集成威廉希尔官方网站 领域推动“创新”与“应用”的重要平台,ICDIA致力于推动IC设计与芯片应用、促进芯片与系统整机供需对接,实现芯片企业和整机企业的互惠发展。科技部重大专项司副司长邱钢,江苏省科技厅二级巡视员杨小平,无锡市副市长周文栋,国家01专项技术总师、中国集成威廉希尔官方网站 设计创新联盟理事长、清华大学教授魏少军等出席了本届会议。

 

 

天数智芯END  

 


原文标题:夯实算力基础 赋能大模型创新发展

文章出处:【微信公众号:天数智芯】欢迎添加关注!文章转载请注明出处。


打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分