0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出用于人工智能工作的顶级芯片HGX H200

IEEE电气电子工程师 来源:IEEE电气电子工程师 2023-11-15 14:34 次阅读

近日,英伟达推出了一款用于人工智能工作的顶级芯片HGX H200。新的GPU升级了需求巨大的H100,内存带宽增加了1.4倍,内存容量增加了1.8倍,提高了其处理密集生成人工智能工作的能力。

在备受瞩目的人工智能领域,英伟达提到,H200将带来进一步的性能飞跃。在Llama 2(700亿参数的LLM)上的推理速度比H100快了一倍。未来的软件更新预计会给H200带来额外的性能领先优势和改进。

H200将在具有四路和八路配置的英伟达HGX H200服务器主板中提供,并与HGX H100系统的硬件和软件兼容。

大型计算机制造商和云服务提供商预计将于明年第二季度开始使用H200。亚马逊的AWS、Alphabet公司的谷歌云、微软Azure和甲骨文的云基础设施,都承诺从明年开始使用这款新芯片。

英伟达高性能计算产品副总裁Ian Buck在近日的视频演示中表示:“更快、更广泛的HBM内存集成有助于提高计算需求任务的性能,包括生成人工智能模型和[高性能计算]应用程序,同时优化GPU利用率和效率。”

H200还与已经支持H100的相同系统兼容。英伟达表示,云提供商在将H200添加到混合中时不需要做出任何更改。亚马逊、谷歌、微软和甲骨文的云计算部门将在明年率先提供新的GPU。

一旦推出,新芯片肯定会很贵。英伟达没有列出它们的价格,但据美国消费者新闻与商业频道报道,上一代H100的售价估计在25000至40000美元之间,其中数千台需要在最高水平上运行。并且,价格由英伟达的合作伙伴决定。

伴随着人工智能的火爆,英伟达的高端GPU需求量极大。这也令其他芯片制造商瞄准这一利润丰厚的市场,加快推出高品质的AI芯片,整个AI芯片市场竞争相当激烈。英伟达此举旨在巩固其在AI计算市场的主导地位。

审核编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50812

    浏览量

    423566
  • 谷歌
    +关注

    关注

    27

    文章

    6168

    浏览量

    105369
  • 人工智能
    +关注

    关注

    1791

    文章

    47274

    浏览量

    238462
  • 英伟达
    +关注

    关注

    22

    文章

    3776

    浏览量

    91079

原文标题:英伟达推出新款必备人工智能芯片 性能再飞跃

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟H200芯片将大规模交付

    英伟AI GPU市场迎来新动态,其H200型号上游芯片端已于第二季度下旬正式进入量产阶段,预示着该产品将在第三季度后迎来大量交付。然而,英伟
    的头像 发表于 07-04 10:29 716次阅读

    进一步解读英伟 Blackwell 架构、NVlink及GB200 超级芯片

    药物设计、量子计算和生成式 AI 等领域。 为了纪念杰出的数学家David H.Blackwell,英伟 Blackwell架构被明确设计用来满足现代人工智能
    发表于 05-13 17:16

    英伟H200显卡参数是什么

    英伟H200显卡的参数非常出色,主要表现在以下几个方面。
    的头像 发表于 03-07 17:02 2729次阅读

    英伟H200显卡怎么样

    英伟H200显卡是一款表现出色的产品,其在性能、技术、应用等方面都有显著的优势。
    的头像 发表于 03-07 16:50 1941次阅读

    英伟H200上市时间

    英伟H200于2023年11月13日正式发布。然而,由于HBM3e芯片供应问题,其实际开售时间有所延迟。英伟
    的头像 发表于 03-07 16:46 2361次阅读

    英伟H200带宽狂飙

    英伟H200带宽的显著提升主要得益于其强大的硬件配置和先进的技术创新。H200配备了高达141GB的HBM3e显存,与前代产品H100相比
    的头像 发表于 03-07 16:44 955次阅读

    英伟H200H800的区别

    英伟H200H800在多个方面存在一些关键性的区别。
    的头像 发表于 03-07 16:30 3770次阅读

    英伟H200和A100的区别

    英伟H200和A100两款芯片在性能、架构、内存以及应用场景等多个方面存在显著的区别。
    的头像 发表于 03-07 16:23 3623次阅读

    英伟H200和A100的差异

    英伟H200和A100在多个方面存在差异。
    的头像 发表于 03-07 16:18 2563次阅读

    英伟H200算力怎么样

    英伟H200的算力非常强大。作为新一代AI芯片H200在性能上有了显著的提升,能够处理复杂的AI任务和大数据分析。然而,具体的算力数值可
    的头像 发表于 03-07 16:15 2127次阅读

    英伟H200能作为普通显卡使用吗

    英伟H200不能作为普通显卡使用。H200是一款专为AI计算设计的芯片,它并不具备普通显卡的图形渲染能力。
    的头像 发表于 03-07 16:13 1661次阅读

    英伟H200显卡价格

    英伟H200显卡的具体价格尚未公布。根据上一代H100显卡的价格范围,预计H200的单片价格将超过40000美元。由于新
    的头像 发表于 03-07 16:09 4984次阅读

    英伟H200什么时候上市

    英伟于2023年11月13日发布了新一代AI芯片H200,但具体的上市时间可能因各种因素有所调整。近期有消息传出,英伟
    的头像 发表于 03-07 16:04 1109次阅读

    英伟H200H100的比较

    英伟H200H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片
    的头像 发表于 03-07 15:53 4649次阅读

    英伟H200参数说明

    英伟H200是一款新一代AI芯片,于2023年11月14日正式发布,主要被设计用来处理生成式人工智能负载的海量数据。
    的头像 发表于 03-07 15:48 1851次阅读