英伟达全新GPUB200发布:一台服务器相当于一个超级计算机
来源:NBA直播吧
在今天开幕的GTC 2024上,黄仁勋带来了新的B200 GPU,其拥有2080亿个晶体管,可提供高达20petaflops的FP4算力。 至于GB200,就是将两个GPU和一个Grace CPU结合在一起,可为LLM推理工作负载提供30倍的性能,同时还可能大大提高效率。英伟达也形象给出了提升的高度,比如训练一个1.8万亿个参数的模型以前需要8000个Hopper GPU和15兆瓦的电力。如今,2000个Blackwell GPU就能完成这项工作,耗电量仅为4兆瓦。 不过,英伟达并没有公布关于B200和其相关产品的价格,只表示亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中装配NVL72机架,但没有公布这些公司的购买数量,只透露了亚马逊AWS已计划采购由2万片GB200芯片组建的服务器集群,可以部署27万亿个参数的模型。 |

相关阅读

热门录像

热门新闻
cba赛程表2022-2023第二阶段时间 cba赛程表2020一2021
cba赛程表2022-2023第三阶段时间(cba赛程表2020-2021第二阶段时间)
2008奥运会开幕式直播完整版cctv,2008奥运会开幕式直播完整版高清
cba赛程表2021-2022第三阶段时间 cba赛程时间表2020-2021
直播吧独家:辽宁队告知弗格方面不会与他续约
杰伦威:教练和队友在赛季中允许我有不佳表现他们帮我找回自我
在NBA场均9.8+3.2!江南的城:前勇士前锋帕斯卡尔正接触NBL球队
头像约基奇!杨瀚森入驻小红书:快到选秀大会了还有点小紧张
个人第23赛季!詹姆斯:我要确保在九月训练营前100%恢复健康
你认为步行者还有机会吗