当前位置: 首页 > news >正文

AI 正在“吃光内存”,NVIDIA与SK海力士把目光投向了 NAND

继大规模蚕食DRAM市场后,英伟达与SK海力士计划推出性能提升近10倍的"AI SSD",引发NAND供应警报。随着AI产业重心从训练转向推理,技术栈需全面升级以构建低延迟、高吞吐环境,行业正聚焦通过NAND芯片打造推理优化的AI存储方案,SK海力士预计在2027年前推出相关解决方案。

AI SSD可以扩展到1亿IOPS,这比传统的企业SSD要大得多。当研究这种解决方案的需求时,很明显,当前的AI工作负载结构需要连续访问大量模型参数,这是HBM或通用DRAM产品无法满足的。AI SSD最终将允许伪内存层,针对AI工作负载进行优化,显著提升模型加载、参数访问以及数据调度效率,为大模型推理带来数量级上的性能改善。

随着传统AI工作负载向推理侧迁移,这一趋势的动因之一在于英伟达已决定在Rubin CPX GPU中集成通用GDDR7内存处理预填充阶段。据有关媒体报道,类似技术路径或将延伸至NAND领域,一系列举措可能彻底重塑NAND产业格局。

近年来,AI 训练和推理对 DRAM 尤其是 HBM 的需求急剧上升,头部厂商的大规模采购几乎锁定了未来一段时间的高端内存产能,供需紧张已经成为行业共识。在这样的背景下,仅依赖 DRAM/HBM 来承载越来越大的模型参数和中间数据,成本和可获得性都在变得越来越不友好。

AI SSD 的出现,本质上是一种向“内存层级外延”要空间的尝试。通过让高性能 NAND 承担部分原本由内存负责的数据访问工作,尤其是在推理场景中对容量和吞吐更敏感、对极致时延要求相对可控的环节,AI SSD 有机会在不显著推高成本的前提下,缓解内存压力,提升整体系统效率。这也意味着,NAND 在 AI 系统中的角色,正在从“冷数据存储”向“主动参与计算的数据层”演进。

从产业链角度看,这并非孤立动作。一方面,DRAM 与 HBM 供给趋紧、价格上行已是公开事实;另一方面,AI 服务器整体配置正在变得越来越“存储密集”,无论是本地推理、企业私有化部署,还是多模型并行运行,对高速、大容量存储的依赖都在明显提升。NVIDIA 与 SK hynix 在这一时间点推动 AI SSD,既是技术演进的结果,也是供应链现实倒逼下的一种必然选择。

对于 AI 服务器供应商和用户而言,这类变化意味着,未来的算力系统不再只是“GPU + 内存”的简单叠加,而是需要从更系统的角度重新审视 计算、内存与存储之间的分工与协同方式。谁能更早理解这种变化,并在架构设计和选型阶段提前做出调整,往往就能在成本、可扩展性和交付确定性上占据主动。

http://www.cnnetsun.cn/news/112695.html

相关文章:

  • 好写作AI第二大脑:当研究灵感不再碎片化,你的“学术外脑”已上线
  • 好写作AI第二大脑:当研究灵感不再碎片化,你的“学术外挂”已上线
  • 守护代码世界的守门人——软件测试团队心理健康白皮书
  • PinWin窗口置顶工具:提升Windows多任务效率的终极指南
  • Sheet-to-Doc:用Excel数据和Word模板自动生成文档
  • 27岁,转行网络安全,是这辈子最成功的一件事......_27岁开始搞网安好吗
  • 基于 OpenCV C# 的直线卡尺工具源码分享
  • FunASR多说话人识别终极指南:从实战到深度解析
  • SpringAI基于pgvector存储向量
  • 15天零基础打造Android视频录制终极方案:基于FFmpeg的微信级体验完整实现
  • 终极指南:macOS iSCSI启动器完整配置与使用详解
  • 【计算机毕业设计案例】基于SpringBoot+微信小程序的智能在线预约挂号系统基于springboot+微信小程序的智能医疗管理系统设计与实现(程序+文档+讲解+定制)
  • 【计算机毕业设计案例】基于springboot+微信小程序的校园活动管理系统设计与实现在线活动发布、报名管理与学生互动平台(程序+文档+讲解+定制)
  • HMC218BMS8GETR,3.5-8 GHz GaAs MMIC双平衡混频器, 现货库存
  • 直流电机控制仿真:Matlab/Simulink 实现
  • 如何用Charticulator轻松制作专业图表
  • 俄罗斯服务器常见故障汇总及排查方法
  • Seed-VR2:突破性AI视频增强技术,6GB显存实现专业级画质处理
  • 3分钟让你的Qt应用颜值翻倍:10款专业QSS模板免费使用指南
  • AI视频生成新纪元:5步掌握Wan2.2模型实战技巧
  • Stable Diffusion WebUI Forge技术架构深度解析:PyTorch如何驱动AI绘画革命
  • 合规即代码的延伸:国产 DevOps 平台如何利用平台扩展能力,自动验证信创基础设施的配置合规性
  • 基于MATLAB的Kmeans自动寻找最佳聚类中心App——简单操作实现手肘法与聚类分析
  • 2026年学大模型,别乱读书!这13本“硬核书单”就是你的高效知识地图,啃完体系自成
  • Wan2.1 GP视频生成:新手快速上手AI视频制作指南
  • 【Go 语言】核心特性、基础语法及面试题
  • 能控制计算机桌面的多模态AI agent框架
  • DeeplxFile终极指南:免费解锁无限制文件翻译的完整教程
  • Iridescent:Day27
  • camera calibration(相机校准)