科技行业资讯门户

广告

广告

广告

广告

广告

GB200 H100 A800 B200对比,英伟达AI芯片爆单的原因找到了

【蜂耘网  人工智能】近期,英伟达的AI芯片GB200订单量爆发,H100芯片却遇冷。

          

GB200芯片最大的客户是微软,其第四季度的订单量增长3-4倍,超过其他所有云服务商的总和。

          

另一边,曾经炙手可热的H100芯片,8卡整机的出售价格由去年的300多万降至230-240万,出租价格则由巅峰时期的8美元以上跌至2-3美元,价格超跌50%。

          

众所周知,英伟达是一家全球知名的科技公司,英伟达最厉害的业务是图形处理单元(GPU)。

          

英伟达的芯片有很多不同种类,不同产品在配置、参数以及性能等方面都有所不同,我给大家科普下。

          

img1

          

H100与GB200    

          

英伟达H100是基于Ada Lovelace架构,提供了比A100更高的性能,配备第四代 Tensor Core 和 Transformer 引擎(FP8精度)。

          

H100由800亿个晶体管构建而成,采用4N工艺,能够显著提升AI/HPC/显存带宽/互连/数据中心级通信的速度。

          

另外H100配备了HBM3显存,最大容量同样为80GB,可使 FP64 的每秒浮点运算次数(FLOPS)提升至 3 倍,并可添加动态编程(DPX)指令,使性能提升高达7 倍。

          

而GB200是英伟达在2024年推出的新一代产品,GB代表Grid,这是英伟达为数据中心虚拟化设计的GPU。

          

GB200是Grid系列中的一款,用于虚拟桌面基础设施(VDI)和高性能计算。

          

Blackwell GB200芯片包含了2080亿个晶体管,采用台积电N4P制程,为双芯片架构,AI算力达20petaFLOPS(FP4),是Hopper的5倍。

          

GB200通过将两个B200 GPU与一个Grace CPU配对,并通过NVLink连接。

          

整体来说,H100和GB200都是高性能GPU产品,但H100采用Hopper架构,GB200采用Blackwell架构;GB200的性能比H100更高(大约7倍的性能提升和4倍的训练速度),同时GB200能耗更低。

          

近两年,H100是最受市场欢迎的GPU产品,但前期H100存在囤货炒作价格的情况,在新老产品交替以及市场环境变化的背景下逐渐遇冷。而英伟达 GB200 芯片凭借其强大的性能和优势,获得了市场的高度关注和大量订单。   

          

img2

          

英伟达的其他芯片

          

A100:英伟达的旗舰级数据中心GPU,专为高性能计算和人工智能训练设计。其单精度浮点运算速度19.5万亿次每秒(TFLOPS,FP32),半精度浮点运算速度38.7万亿次每秒(TFLOPS,FP16),张量核心的浮点运算速度1.52千万亿次每秒(PetaFLOPS,TF32)。

          

A800:A100的较小版本,具有较低的计算能力和内存容量。2022年美国有了新的半导体出口规定,英伟达为了适应美国对中国大陆的高性能计算芯片出口限制,推出了A100的一个小版本,也就是A800。A800主要是在数据传输速度上做了调整,把A100的600GB/s降到了400GB/s,但其他方面和A100差不多。

          

B100:基于Tesla架构的GPU,较老的产品线,主要用于数据中心和高性能计算。B100拥有约3,072个CUDA核心,功耗通常在250W左右,不是专为深度学习设计的GPU,但它仍然可以用于加速一些简单的深度学习模型。

              

B200:基于Tesla架构,是B100的升级版,提供了更高的性能。B200适用于需要更高计算能力的应用,配备了多个CUDA核心和高带宽的GDDR5内存,支持NVLink技术,允许多个GPU之间高速通信。

          

H200:H100的更大版本,内存容量高达 141 GB,几乎是 H100 的两倍,适用于需要极高内存带宽和计算能力的应用,如大型AI模型训练。

          

H800:是基于Ada Lovelace架构的GPU,具有极高的性能和内存容量,专为AI训练和大型科学计算设计。H800基于4nm工艺,拥有800亿个晶体管、18432个核心的H100 GPU。

          

HGX:HGX系列是英伟达为数据中心设计的GPU集群系统,包括多种配置,如HGX-2、HGX-3等。

          

DGX:DGX系列是英伟达的AI超级计算机系统,集成了多块GPU,包括DGX Station(工作站)、DGX A100(服务器)等。

              

img3

          

结语

          

英伟达自1993年成立以来,经历了从显卡制造商到全球GPU领导者的蜕变,初期专注于图形处理,随后拓展到专业工作站和游戏市场。

          

2006年,推出CUDA平台,开启GPU通用计算时代。2010年后,英伟达进军数据中心和自动驾驶领域,推出Tesla和DGX系列GPU,成为AI和深度学习的重要推动者。

          

英伟达的很多款产品都是很多企业难以完全复制和追赶的,特别是GB200等芯片在技术上、性能上的领先,更加彰显了英伟达在AI硬件领域的地位。        

 

(蜂耘人工智能网  责任编辑:梅子)

2024-11-08 15:28

广告

来源:蜂耘网
近期,英伟达的AI芯片GB200订单量爆发,H100芯片却遇冷。

声明:凡来源标明“蜂耘网”的文章版权均为本站所有,如需转载请务必注明出处,违者本网将追究相关法律责任;所有未标明来源为“蜂耘网”的转载文章目的在于传递更多信息,均不代表本网立场及观点,“蜂耘网”不对这些第三方内容或链接做任何保证或承担任何责任;如涉及版权等问题,请在内容发表之日起一周内与本网联系,否则视为放弃相关权利。

所有评论仅代表网友意见,与本站立场无关

最新资讯

推荐阅读

热门排行

1、

2、

3、

4、

5、

6、

7、

8、

专题推荐

人物访谈

  • 一文了解查理·芒格:为什么他是巴菲特最推崇的人

    来源:
    ①巴菲特写道,“如果没有查理的灵感、智慧和参与,伯克希尔-哈撒韦公司不可能发展到今天的地位”;
    ②芒格曾表示,“如果世上未曾有过查理·芒格这个人,巴菲特的业绩依然会像现在这么漂亮 ”
    ③两周前,芒格还公开在节目中维护93岁的老友巴菲特。

    163 2023-11-29
  • 面壁者,拉里·佩奇

    来源:中欧商业评论
    这两年,硅谷钢铁侠埃隆·马斯克在社交媒体上口无遮拦,这为他的公司引来了铺天盖地的负面新闻,然而,他的好友、谷歌联合创始人拉里·佩奇却因为看不到人同样被媒体炮轰多时。他已经在公共视野中消失太久了。

    281 2022-06-15
  • 百岁中科院院士文圣常逝世!被誉为我国海浪研究的“点灯人”

    来源:南方都市报
     3月21日上午,中国海洋大学发布讣告,中国科学院院士、著名物理海洋学家、该校教授文圣常,因病医治无效,于3月20日15时37分在山东青岛逝世,享年101岁。

    312 2022-03-21

会议活动

微信公众号

广告

相关新闻