4T3iQmbbLQw tech.huanqiu.comarticle美光探索近GPU NAND闪存技术，有望支撑更大规模人工智能模型/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】9月3日消息，据TechPowerUp报道，美光公司近日正在开展一项新型高耐久性NAND闪存模块技术研究，计划改变传统存储部署模式，将闪存模块部署在距离GPU更近的位置，摆脱以往经由多重协议接入远端存储池的架构局限，为人工智能大模型运行开辟新思路。</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/a8a4fae0a1d80af0039dbf27558a5d3cu1.png?imageView2/2/w/1260" /></i></p><p>这项被称作“近GPU NAND”的技术，力求在存储密度与耐久性能之间实现平衡优化，主要面向非极致低延迟、超高带宽类业务场景。按照技术构想，该方案能够支持GPU直接访问数百GB容量的NAND存储资源，存储芯片可布置于GPU封装内部或是印刷电路板之上，工作逻辑与HBM、GDDR7等高速存储技术有异曲同工之处。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>对比传统TLC、QLC NAND闪存产品，该新型NAND芯片适当降低存储密度，将研发重心放在提升输入输出速率与传输带宽上。作为介于显存与普通存储之间的全新高速缓冲层级，该技术对于运行超大规模人工智能大语言模型具备突出价值。若这项技术实现落地应用，将有望破解大语言模型推理过程中受限于显存容量的现实瓶颈，为大模型进一步扩容、高效运行提供硬件层面的新路径。（纯钧）</p></section></article>1788418038498环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：连丽敏环球网178841803849811[]//img.huanqiucdn.cn/dp/api/files/imageDir/a8a4fae0a1d80af0039dbf27558a5d3cu1.png{"email":"lianlimin@huanqiu.com","name":"连丽敏"}