英伟达全新GPUB200发布:一台服务器相当于一个超级计算机

来源:NBA直播吧
在今天开幕的GTC 2024上,黄仁勋带来了新的B200 GPU,其拥有2080亿个晶体管,可提供高达20petaflops的FP4算力。

至于GB200,就是将两个GPU和一个Grace CPU结合在一起,可为LLM推理工作负载提供30倍的性能,同时还可能大大提高效率。英伟达也形象给出了提升的高度,比如训练一个1.8万亿个参数的模型以前需要8000个Hopper GPU和15兆瓦的电力。如今,2000个Blackwell GPU就能完成这项工作,耗电量仅为4兆瓦。

不过,英伟达并没有公布关于B200和其相关产品的价格,只表示亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中装配NVL72机架,但没有公布这些公司的购买数量,只透露了亚马逊AWS已计划采购由2万片GB200芯片组建的服务器集群,可以部署27万亿个参数的模型。

var baseUrl = 'http://datas.adminn.cn/zhibo/datas'; jQuery.axpost = function(url, data, successfn, errorfn) { data = (data == null || data == "" || typeof(data) == "undefined") ? { "date": new Date().getTime() } : data; $.ajax({ dataType: "json", type: "post", data: data, url: url, success: function(d) { successfn(d); }, error: function(e) { errorfn(e); } }); }; $("#gotoTop").click(function () { $('html,body').animate({scrollTop: 0}, 300); }); var min_height = 500; $(window).scroll(function () { var s = $(window).scrollTop(); if (s > min_height) { $("#gotoTop").fadeIn(200); } else { $("#gotoTop").fadeOut(200); } ; });