4T3iKyyOerc tech.huanqiu.comarticle为缓解 AI 内存荒 谷歌拆解退役服务器复用 DDR4 内存/e3pmh164r/e3pmtmdvg【环球网科技综合报道】9月3日消息,据 Wccftech 报道,当前DRAM 内存市场供应持续紧张,内存资源紧缺已成为制约人工智能产业发展的现实难题,各大 AI 服务商纷纷探索多元路径,缓解内存供给压力。谷歌供应链基础设施高级总监尼基尔・切里安在相关峰会上表示,人工智能产业发展约束已快速从算力制约转向内存制约。据介绍,在典型 AI 服务器硬件成本构成中,高性能内存占比约达 75%,内存瓶颈问题日益凸显。 为破解内存供给难题,谷歌从硬件、软件两个维度同步推进技术方案,搭建内部元器件循环供应链。企业通过拆解退役服务器,回收仍具备使用价值的硬件元器件。针对新一代 AI 服务器,谷歌研发专用硬件转接卡,实现将退役服务器拆解得到的 DDR4 内存模组,适配部署至新型 AI 服务器当中,通过复用旧规格内存,对冲 DDR5 内存供给压力。在硬件回收复用之外,谷歌持续开展软件层面优化工作,通过迭代底层函数库、优化模型架构、升级 KV 缓存压缩算法等技术手段,降低单位算力对应的内存资源消耗,多措并举缓解 AI 业务运行的内存开销压力。(纯钧)1788417881396环球网版权作品,未经书面授权,严禁转载或镜像,违者将被追究法律责任。责编:连丽敏环球网178841788139611[]//img.huanqiucdn.cn/dp/api/files/imageDir/1cd97978503daaee428a5d0844d57bfdu1.png{"email":"lianlimin@huanqiu.com","name":"连丽敏"}
【环球网科技综合报道】9月3日消息,据 Wccftech 报道,当前DRAM 内存市场供应持续紧张,内存资源紧缺已成为制约人工智能产业发展的现实难题,各大 AI 服务商纷纷探索多元路径,缓解内存供给压力。谷歌供应链基础设施高级总监尼基尔・切里安在相关峰会上表示,人工智能产业发展约束已快速从算力制约转向内存制约。据介绍,在典型 AI 服务器硬件成本构成中,高性能内存占比约达 75%,内存瓶颈问题日益凸显。 为破解内存供给难题,谷歌从硬件、软件两个维度同步推进技术方案,搭建内部元器件循环供应链。企业通过拆解退役服务器,回收仍具备使用价值的硬件元器件。针对新一代 AI 服务器,谷歌研发专用硬件转接卡,实现将退役服务器拆解得到的 DDR4 内存模组,适配部署至新型 AI 服务器当中,通过复用旧规格内存,对冲 DDR5 内存供给压力。在硬件回收复用之外,谷歌持续开展软件层面优化工作,通过迭代底层函数库、优化模型架构、升级 KV 缓存压缩算法等技术手段,降低单位算力对应的内存资源消耗,多措并举缓解 AI 业务运行的内存开销压力。(纯钧)