英伟达发布最强AI加速卡Blackwell GB200 助力AI计算迈向新纪元

2024-03-19 09:33:22   |   嫣然   |   130

3月19日,在GTC开发者大会上,英伟达公司宣布了一项引人注目的消息:他们将发布最强AI加速卡GB200,并计划于今年晚些时候发货。这一加速卡将采用全新的AI图形处理器架构Blackwell,标志着英伟达在AI计算领域的巨大进步。

英伟达首席执行官黄仁勋在GTC大会上表示:“Hopper固然已经非常出色了,但我们需要更强大的GPU。”根据他的介绍,Blackwell的AI性能可达20 petaflops,远远超过之前的H100,后者仅为4 petaflops。这一突破性的性能提升将使人工智能公司能够训练更大、更复杂的模型。

Blackwell GPU体积庞大,采用了台积电的4纳米(4NP)工艺蚀刻而成,整合了两个独立制造的裸晶(Die),共有2080亿个晶体管。而通过NVLink 5.0技术的应用,这些芯片能够像拉链一样捆绑在一起,进一步提升了性能。

GB200加速卡将包含两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,其推理大语言模型性能比H100提升了30倍,同时成本和能耗降至25分之一。对于训练一个1.8万亿个参数的模型而言,以前需要8000个Hopper GPU和15兆瓦的电力,而现在仅需2000个Blackwell GPU和4兆瓦的电力。

据铋读网了解,亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中提供NVL72机架,这些机架将配备36个CPU和72个Blackwell GPU,为用户提供更强大的AI训练和推理性能。英伟达的这一系列新产品和解决方案将推动AI计算迈向新的高度,为行业带来更快、更强、更高效的计算能力。随着GB200的发布,我们可以期待在AI领域看到更多的创新和突破。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字、图片等内容的真实性、完整性、及时性本站不作任何保证或承诺,请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时发送相关信息至bireading@163.com,本站将会在48小时内处理完毕。

英伟达发布最强AI加速卡Blackwell GB200 助力AI计算迈向新纪元

2024-03-19 09:33:22 浏览量: 130 作者: 嫣然

3月19日,在GTC开发者大会上,英伟达公司宣布了一项引人注目的消息:他们将发布最强AI加速卡GB200,并计划于今年晚些时候发货。这一加速卡将采用全新的AI图形处理器架构Blackwell,标志着英伟达在AI计算领域的巨大进步。

英伟达首席执行官黄仁勋在GTC大会上表示:“Hopper固然已经非常出色了,但我们需要更强大的GPU。”根据他的介绍,Blackwell的AI性能可达20 petaflops,远远超过之前的H100,后者仅为4 petaflops。这一突破性的性能提升将使人工智能公司能够训练更大、更复杂的模型。

Blackwell GPU体积庞大,采用了台积电的4纳米(4NP)工艺蚀刻而成,整合了两个独立制造的裸晶(Die),共有2080亿个晶体管。而通过NVLink 5.0技术的应用,这些芯片能够像拉链一样捆绑在一起,进一步提升了性能。

GB200加速卡将包含两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,其推理大语言模型性能比H100提升了30倍,同时成本和能耗降至25分之一。对于训练一个1.8万亿个参数的模型而言,以前需要8000个Hopper GPU和15兆瓦的电力,而现在仅需2000个Blackwell GPU和4兆瓦的电力。

据铋读网了解,亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中提供NVL72机架,这些机架将配备36个CPU和72个Blackwell GPU,为用户提供更强大的AI训练和推理性能。英伟达的这一系列新产品和解决方案将推动AI计算迈向新的高度,为行业带来更快、更强、更高效的计算能力。随着GB200的发布,我们可以期待在AI领域看到更多的创新和突破。

,

Copyright ©2018 铋读网 All Rights Reserved.

京ICP备18051707号

京公网安备 11011302001633号