GB200 H100 A800 B200对比,英伟达AI芯片爆单的原因找到了
【蜂耘网 人工智能】近期,英伟达的AI芯片GB200订单量爆发,H100芯片却遇冷。
GB200芯片最大的客户是微软,其第四季度的订单量增长3-4倍,超过其他所有云服务商的总和。
另一边,曾经炙手可热的H100芯片,8卡整机的出售价格由去年的300多万降至230-240万,出租价格则由巅峰时期的8美元以上跌至2-3美元,价格超跌50%。
众所周知,英伟达是一家全球知名的科技公司,英伟达最厉害的业务是图形处理单元(GPU)。
英伟达的芯片有很多不同种类,不同产品在配置、参数以及性能等方面都有所不同,我给大家科普下。
H100与GB200
英伟达H100是基于Ada Lovelace架构,提供了比A100更高的性能,配备第四代 Tensor Core 和 Transformer 引擎(FP8精度)。
H100由800亿个晶体管构建而成,采用4N工艺,能够显著提升AI/HPC/显存带宽/互连/数据中心级通信的速度。
另外H100配备了HBM3显存,最大容量同样为80GB,可使 FP64 的每秒浮点运算次数(FLOPS)提升至 3 倍,并可添加动态编程(DPX)指令,使性能提升高达7 倍。
而GB200是英伟达在2024年推出的新一代产品,GB代表Grid,这是英伟达为数据中心虚拟化设计的GPU。
GB200是Grid系列中的一款,用于虚拟桌面基础设施(VDI)和高性能计算。
Blackwell GB200芯片包含了2080亿个晶体管,采用台积电N4P制程,为双芯片架构,AI算力达20petaFLOPS(FP4),是Hopper的5倍。
GB200通过将两个B200 GPU与一个Grace CPU配对,并通过NVLink连接。
整体来说,H100和GB200都是高性能GPU产品,但H100采用Hopper架构,GB200采用Blackwell架构;GB200的性能比H100更高(大约7倍的性能提升和4倍的训练速度),同时GB200能耗更低。
近两年,H100是最受市场欢迎的GPU产品,但前期H100存在囤货炒作价格的情况,在新老产品交替以及市场环境变化的背景下逐渐遇冷。而英伟达 GB200 芯片凭借其强大的性能和优势,获得了市场的高度关注和大量订单。
英伟达的其他芯片
A100:英伟达的旗舰级数据中心GPU,专为高性能计算和人工智能训练设计。其单精度浮点运算速度19.5万亿次每秒(TFLOPS,FP32),半精度浮点运算速度38.7万亿次每秒(TFLOPS,FP16),张量核心的浮点运算速度1.52千万亿次每秒(PetaFLOPS,TF32)。
A800:A100的较小版本,具有较低的计算能力和内存容量。2022年美国有了新的半导体出口规定,英伟达为了适应美国对中国大陆的高性能计算芯片出口限制,推出了A100的一个小版本,也就是A800。A800主要是在数据传输速度上做了调整,把A100的600GB/s降到了400GB/s,但其他方面和A100差不多。
B100:基于Tesla架构的GPU,较老的产品线,主要用于数据中心和高性能计算。B100拥有约3,072个CUDA核心,功耗通常在250W左右,不是专为深度学习设计的GPU,但它仍然可以用于加速一些简单的深度学习模型。
B200:基于Tesla架构,是B100的升级版,提供了更高的性能。B200适用于需要更高计算能力的应用,配备了多个CUDA核心和高带宽的GDDR5内存,支持NVLink技术,允许多个GPU之间高速通信。
H200:H100的更大版本,内存容量高达 141 GB,几乎是 H100 的两倍,适用于需要极高内存带宽和计算能力的应用,如大型AI模型训练。
H800:是基于Ada Lovelace架构的GPU,具有极高的性能和内存容量,专为AI训练和大型科学计算设计。H800基于4nm工艺,拥有800亿个晶体管、18432个核心的H100 GPU。
HGX:HGX系列是英伟达为数据中心设计的GPU集群系统,包括多种配置,如HGX-2、HGX-3等。
DGX:DGX系列是英伟达的AI超级计算机系统,集成了多块GPU,包括DGX Station(工作站)、DGX A100(服务器)等。
结语
英伟达自1993年成立以来,经历了从显卡制造商到全球GPU领导者的蜕变,初期专注于图形处理,随后拓展到专业工作站和游戏市场。
2006年,推出CUDA平台,开启GPU通用计算时代。2010年后,英伟达进军数据中心和自动驾驶领域,推出Tesla和DGX系列GPU,成为AI和深度学习的重要推动者。
英伟达的很多款产品都是很多企业难以完全复制和追赶的,特别是GB200等芯片在技术上、性能上的领先,更加彰显了英伟达在AI硬件领域的地位。
(蜂耘人工智能网 责任编辑:梅子)
近期,英伟达的AI芯片GB200订单量爆发,H100芯片却遇冷。
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2022-08-25
- 2022-10-13
- 2022-10-24
- 2022-10-18
- 2022-09-30
- 2023-03-29
- 2022-10-25
- 2022-11-17
-
一文了解查理·芒格:为什么他是巴菲特最推崇的人
来源:
①巴菲特写道,“如果没有查理的灵感、智慧和参与,伯克希尔-哈撒韦公司不可能发展到今天的地位”;
②芒格曾表示,“如果世上未曾有过查理·芒格这个人,巴菲特的业绩依然会像现在这么漂亮 ”
③两周前,芒格还公开在节目中维护93岁的老友巴菲特。넶163 2023-11-29 -
面壁者,拉里·佩奇
来源:中欧商业评论
这两年,硅谷钢铁侠埃隆·马斯克在社交媒体上口无遮拦,这为他的公司引来了铺天盖地的负面新闻,然而,他的好友、谷歌联合创始人拉里·佩奇却因为看不到人同样被媒体炮轰多时。他已经在公共视野中消失太久了。넶281 2022-06-15 -
百岁中科院院士文圣常逝世!被誉为我国海浪研究的“点灯人”
来源:南方都市报
3月21日上午,中国海洋大学发布讣告,中国科学院院士、著名物理海洋学家、该校教授文圣常,因病医治无效,于3月20日15时37分在山东青岛逝世,享年101岁。넶312 2022-03-21
-
-
-
南京人工智能大会即将召开!汇聚业界智慧 共探AI无限可能
来源:蜂耘网
南京人工智能大会计划于6月27日在南京举行,大会以“产业变革,抓住机遇”为主题,共同探讨人工智能产业的最新技术、新的应用场景以及未来的发展趋势等问题。넶156 2024-06-18
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02
- 2025-01-02