03.13.24 | 10:11 AM
ChatGPT日耗电超50万度;黄仁勋透露英伟达下一代DGX AI系统将采用液冷技术
大摩:AI基建才刚开始,英伟达不是思科 ChatGPT日耗电超50万度,是美国普通家庭用电量1.7万多倍 黄仁勋透露英伟达下一代DGX AI系统将采用液冷技术
BY 媒介360
大摩:AI基建才刚开始,英伟达不是思科
摩根士丹利Shawn Kim分析师团队本周发布报告,对比了互联网泡沫与当前的AI热潮,强调当前AI基础设施投资热潮仅仅处于初期阶段,尚未达到互联网1999年的泡沫水平。2000年网络泡沫期间,思科的收入增长率达到了59%,而其前瞻市盈率高达138倍。如今的英伟达市盈率仅为30倍,但其收入增长率却达到了90%。英伟达周五大跌似乎验证了“思科时刻”的到来。但摩根士丹利认为,无论是从两者所处的科技环境、自身实力和估值上看,英伟达都不是当年的思科。AI基础设施建设仅仅是一个开始,每个超大规模企业都在构建基础设施,以便尝试在该基础设施之上构建应用程序、工具和服务。

ChatGPT日耗电超50万度,是美国普通家庭用电量1.7万多倍
据报道,OpenAI的热门聊天机器人ChatGPT每天可能要消耗超过50万千瓦时的电力,以响应用户的约2亿个请求。相比之下,美国家庭平均每天使用约29千瓦时电力,也就是说,ChatGPT每天用电量是家庭用电量的1.7万多倍。如果生成式AI被进一步采用,耗电量可能会更多。荷兰国家银行数据科学家亚历克斯·德弗里斯在一篇论文中估计,到2027年,整个人工智能行业每年将消耗85至134太瓦时(1太瓦时=10亿千瓦时)的电力。

黄仁勋透露英伟达下一代DGX AI系统将采用液冷技术
英伟达CEO黄仁勋已确认,其下一个DGX AI系统将采用液冷散热。这为数据中心领域带来了新的机遇。英伟达在一次会议上透露了该消息。数据中心和AI服务器领域一直在加快推进液冷步伐,各公司为液冷设备的制造工厂投入巨额资金。此外,液冷数据中心将需要大量的研发工作和足够的基础设施来维护。
advertisement