天风证券:AI存储革命已至,“以存代算”开启存储新纪元

音符科技网

  炒股就看,权威,专业,及时,全面,助您挖掘潜力主题机会!

  天风研究

  为突破算力瓶颈与“存储墙”制约,“以存代算”作为一种颠覆性技术范式应运而生。该技术通过将AI推理过程中的矢量数据(如KVCache)从昂贵的DRAM和HBM显存迁移至大容量、高性价比的SSD介质,实现存储层从内存向SSD的战略扩展,而非简单替代。其核心价值在于显著降低首Token时延、提升推理吞吐量,并大幅优化端到端的推理成本,为AI大规模落地提供可行路径。

  “以存代算”发展背景:AI推理成价值核心,HBM瓶颈凸显产业痛点,“以存代算”应运而生。当前,AI推理已成为衡量大模型商业化价值的关键标尺,但在实际应用中仍面临“推不动、推得慢、推得贵”的严峻挑战。为突破算力瓶颈与“存储墙”制约,“以存代算”作为一种颠覆性技术范式应运而生。该技术通过将AI推理过程中的矢量数据(如KVCache)从昂贵的DRAM和HBM显存迁移至大容量、高性价比的SSD介质,实现存储层从内存向SSD的战略扩展,而非简单替代。其核心价值在于显著降低首Token时延、提升推理吞吐量,并大幅优化端到端的推理成本,为AI大规模落地提供可行路径。

  “以存代算”核心技术:“以存代算”CachedAttention技术是一种通过将AI推理中历史对话的KVCache缓存到HBM+DRAM+SSD等外部存储介质。在该系统中,HBM作为GPU本地高速存储,负责存储当前活跃会话的KVCache,支撑LLM推理计算;DRAM作为中间缓存层,承接HBM的异步写入与SSD的预加载,平衡速度与容量;SSD则作为长期存储层,提供大容量持久化存储,承载非活跃历史数据。“以存代算”CachedAttention将首Token时延(TTFT)显著缩短了87%,并提升了Prefill阶段7.8倍的吞吐量,从而将端到端推理成本降低了70%。

  “以存代算”硬件突破:在“以存代算”技术范式下,SSD不再是单纯的数据存储载体,而是深度参与AI推理的核心组件,其需承接从HBM、DRAM卸载的KVCache,因此被赋予大容量、高吞吐、低延迟的新要求,以缓解对高成本HBM的依赖。同时,SSD主控芯片作为“控制大脑”,需通过先进算法优化数据寻址调度,支撑AI推理中数据高效流转。在此背景下,AISSD技术将沿三大方向发展:颗粒上,向QLC颗粒演进,凭借技术升级实现高性能与大容量兼顾,满足AI大模型数据存储调用需求;接口协议上,以PCIe5.0/6.0接口搭配NVMe协议为基础,未来融入CXL技术,进一步提升带宽与降低延迟;功能上,向智能化升级,如铠侠计划推出软件让SSD自主处理AI检索任务,Solidigm探索液冷方案优化散热,实现存储与AI推理的深度协同。

  “以存代算”企业布局:以存代算”的核心实践已获产业龙头积极布局。

  华为UCM作为“以存代算”产品化关键载体,构建智能分级缓存,数据可根据记忆热度在HBM、DRAM、SSD(固态硬盘)等存储介质中实现按需流动;同时融合多种稀疏注意力算法,实现存算深度协同。除了以HBM+DRAM+SSD构建的多级缓存体系外,还存以KVCache缓存技术为核心的多元实践。

  浪潮存储AS3000G7优化存储架构与缓存管理机制,智能调度KVCache数据,具备高扩展性,能快速处理热数据,为AI推理等应用提供高效稳定的存储算力。

  焱融YRCloudFileKVCache依托自研分布式文件系统,实现KVCache数据在分布式环境下的高效存取与智能负载均衡,兼容性强,提升数据与计算协同效率。

  国际层面,铠侠、美光、Solidigm等巨头正积极推动AISSD的技术迭代与产品创新。我们认为,QLC+PCIe/NVMe+CXL有望构筑下一代AISSD基座,推动SSD从单纯存储介质,升级为AI推理“长期记忆”载体。

  投资建议:AI存储革命已至,“以存代算”催生核心机遇,显著节省算力消耗加速AI推理,带动SSD需求增速高于传统曲线。

  建议关注:存储模组厂商:(天风计算机联合覆盖)、等;存储芯片:等;存储分销与封测:等。

  风险提示地缘政治带来的不可预测风险,需求复苏不及预期,技术迭代不及预期,产业政策变化风险

新浪声明:此消息系转载自新浪合作媒体,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。

文章版权声明:除非注明,否则均为音符科技网 wap.luzhiwang.com原创文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 推理token减少46%!Meta新方法缩短思维链,告别重复推导
  • 索马里安全部队打死7名袭击监狱的“青年党”武装分子
  • 立陶宛首都机场因热气球飞临一度关闭
  • 黎真主党领导人警告:特朗普“20点计划”充满危险,但是否接受取决于哈马斯
  • 积极信号!机构最新研判来了
  • 金价,爆了!
  • 高市早苗胜选料提振日本股市 日元和日债或承压
  • 比特币突破125,000美元关口 创纪录新高
  • 炸锅了!大批游客高喊“退票,退票!”知名景区回应
  • 谈判在即 以总理威胁军事手段解除哈马斯武装
  • 白宫:特朗普决定向芝加哥部署国民警卫队
  • 特朗普自曝通话细节:内塔尼亚胡做得太过火,有我在,“20点计划”他必须同意 多国爆发大规模抗议
  • 国庆中秋假期前四天,北京全市公园共接待游客738万人次
  • 4000亿,“史上最壕天团”拿下一个游戏公司
  • 这个国庆长假,机票为什么没“跳水”|姗言两语
  • 林诗栋2-4不敌法国选手,无缘WTT中国大满贯男单决赛
  • 国庆中秋假期,铁路运输已累计发送旅客超1亿人次
  • 比特币突破125000美元/枚
  • 冰穹探界丨一年之间,长江源区冬克玛底冰川发生了什么变化
  • 需求激增!男子长假连接270单,其中一笔收费8100元
  • 魔都眼·国庆|各景点人从众,假期过半外滩客流已超221万
  • 刘煜辉金句频出!如果相信新王替旧王,A股一定是星汉灿烂,而不是美股孤灯几盏
  • 受降雨影响,广西5条河流10个水文站出现超警洪水
  • 戴维·齐尼正式就任以色列辛贝特局长
  • 国家防灾减灾救灾委员会启动国家救灾应急响应,指导广东和海南做好台风灾害救助工作
  • 康复医院“客串”宾馆揽客,床位60元,标间300元;当地假期一房难求:经济型酒店1晚超1500元,平时一两百元
  • AI算力瑟瑟发抖!还有英伟达利空小作文…
  • 英伟达竞争对手Cerebras放弃美股IPO:刚完成11亿美元融资 投后估值81亿美元
  • 行进的海岸线|一条海岸线带火一座城
  • “天降红包雨”引发拥挤致顾客摔倒受伤,三亚大悦城致歉
  • 最新!立陶宛紧急关闭维尔纽斯机场!泽连斯基签署多项针对俄罗斯制裁令!乌军:打击俄石化厂
  • 海口美兰国际机场预计于10月5日20时起逐步恢复航班运行
  • 许家璇同志逝世
  • 南方乳业回复北交所问询:外购奶源占比超五成,调减募资金额至7.5亿元
  • 受台风“博罗依”影响,广东湛江已先后发生20个龙卷风
  • 国家减灾委针对“麦德姆”启动四级救灾响应,派工作组急赴灾区
  • 言短意长|一段“80后”的缘分
  • 日本或迎首位女首相:高市早苗当选后,对美关系处理成焦点
  • 六六大顺:中国铁路G6666次列车上线,限时开行
  • 10月4日,全社会跨区域人员流动量超3亿人次
  • 目录[+]

    取消
    微信二维码
    微信二维码
    支付宝二维码