英伟达新技术:SSD可充当额外显存了

发布时间:2026-08-07 07:51

  科技媒体 siliconangle 于 8 月 5 日发布博文,报道称英伟达正在研发新技术,未来可以让 SSD 固态硬盘充当额外显存,从而在游戏或者 AI 场景下改善运行表现。

  在美国拉斯维加斯举办的 2026 年黑帽网络安全大会上,英伟达宣布开源 cuFile API 及其底层存储软件栈。

  而 GPUDirect Storage 是一种让存储设备与 GPU 直接传输数据的技术。传统路径需要先把数据读入主内存临时缓冲区,再到 GPU 内存;该技术旨在减少主内存中转,降低延迟并提升数据访问速度。

  cuFile 于 2021 年 7 月随 CUDA Toolkit 11.4 发布,该技术让本地分布式存储与 GPU 内存直接交换数据,绕过中央处理器与系统主内存,从而降低内存访问延迟。

  在数据路径上,cuFile 依托 DMA,可将 NVMe硬盘等存储设备中的数据直接送入 GPU 内存。

  AI 推理主要依赖 GPU 与专用加速卡,若数据带宽受阻,分布式 GPU 阵列中的部分 GPU 会因等待数据而闲置,形成“GPU starvation”问题。英伟达称,毫秒级低延迟可帮助检索增强生成与智能体 AI 更快读取深层存储中的大型数据集。

排行

精选