英伟达全新GPUB200发布:一台服务器相当于一个超级计算机
来源:NBA直播吧
在今天开幕的GTC 2024上,黄仁勋带来了新的B200 GPU,其拥有2080亿个晶体管,可提供高达20petaflops的FP4算力。 至于GB200,就是将两个GPU和一个Grace CPU结合在一起,可为LLM推理工作负载提供30倍的性能,同时还可能大大提高效率。英伟达也形象给出了提升的高度,比如训练一个1.8万亿个参数的模型以前需要8000个Hopper GPU和15兆瓦的电力。如今,2000个Blackwell GPU就能完成这项工作,耗电量仅为4兆瓦。 不过,英伟达并没有公布关于B200和其相关产品的价格,只表示亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中装配NVL72机架,但没有公布这些公司的购买数量,只透露了亚马逊AWS已计划采购由2万片GB200芯片组建的服务器集群,可以部署27万亿个参数的模型。 |
相关阅读
热门标签
热门录像
热门新闻
- CUBAL陈天灿20+5+4断上海交大26分轻取西安交大晋级8强
- 巴爷谈凯特琳被欺负:没人敢动科比保罗狂热的教练&队员真的丢脸
- 4换1美媒交易设想:火箭得莺歌送出狄龙&伊森&白魔&探花签
- 年薪1050万场均3.1分!文森特一天吃13根西班牙油条网友扎心点评
- 臭名远扬选秀专家:今年有些新秀不愿意去黄蜂试训
- 麦坎茨:布朗比塔图姆强上次绿军失冠是因为塔图姆领导球队
- 塔图姆:裁判现在只有在必要时才会响哨我们确实打得更自由了
- 姜宇星:在钟指导带领下大家都团结一心新赛季努力冲击季后赛
- 怀特:东欧无法阻挡&只能让他们打得艰难些要相信我们的比赛计划
- 总决赛前瞻:绿军第1进攻&第2防守强在整体璀璨东欧代表无限可能