马斯克:准备买30万颗英伟达B200、提升Grok效能
特斯拉CEO马斯克透露,他打算采购300000颗英伟达 Blackwell架构「B200」AI绘图处理器,以提升「Grok」AI聊天机器人的表现。
马斯克3日透过社交平台X指出,鉴于科技进步的速度,将1GW的电力投入H100已不再值得。 他说,旗下AI新创xAI由100000颗H100集结而成的水冷式训练丛集,将在几个月后上线。
马斯克并表示,下个重要一步,大概是明年夏季前使用CX8网络的300000颗B200丛集。
Tom's Hardware、Barron's随后报道,马斯克的逻辑有其道理。 与H100相较,英伟达最新Blackwell B200的AI训练效能提升四倍、推论表现提升30倍。
技术上来说,B200确实较为耗电,但效能大幅改善,意味着执行效率将显著优于H100. 就马斯克的情况来说,将100000颗H100换成数量多三倍、耗电量更高的B200依旧相当划算,因为B200增添的AI效能非常惊人。
英伟达CEO黄仁勋曾说过,Blackwell GPU每颗要价30000~40000美元。 以此来计算,马斯克的计划可能得耗资90~120亿美元。
The Information甫于5月25日报导,马斯克5月在对投资人进行的简报中揭露,「Gigafactory of Compute」预计明年秋季结束前上线,xAI会跟甲骨文合作开发这款超级计算机、支持Grok的下一代版本。 最新超级计算机将使用最多100000颗H100 GPU,为现有最大GPU丛集的至少四倍大。
Meta Platforms首席执行官扎克伯格 1月18日曾通过Instagram短视频平台Reels表示,Meta未来的AI蓝图需打造大规模计算基础建设,预计到了今年底,这项基础建设将内建350000颗英伟达H100 GPU; 若计入其他GPU,Meta的运算基础建设将拥有近600000颗约当H100的运算力。 扎克伯格未提到其他GPU是由哪家业者供应。