您的位置首页 >IT >

Token 出海营收增长遇阻,持续飙升的存储成本正在吃掉国产大模型海外利润

国产大模型 Token 出海业务看着流量、调用量持续上涨,靠售卖词元拿到的收入,已经追不上 HBM、DRAM、闪存等存储硬件涨价带来的成本开支,核心矛盾是 Token 出海的收入是按词元数量计价,但是推理过程里 KV 缓存、会话上下文、日志留存这些数据,成本跟着存储容量 GB 走,长上下文、AI 智能体场景会让存储开销暴增,哪怕模型厂商在海外拿到不错的 Token 调用量,新增收入很容易被存储资本开支吃掉,利润空间被持续压缩,很多出海服务商陷入调用越多、压力越大的局面。之前国产大模型出海靠低价 Token 定价抢占海外开源市场,门罗风投报告显示,美国企业采购开源模型的支出里,国产模型占比很高,但开源 Token 整体只拿到海外企业 AI 预算的很小一部分,单价本身就偏低;再加上 Agent、长文档 RAG 这类新应用普及,每一轮对话都要保存 KV Cache,不再是简单算一次生成就结束,内存和存储的占用量成倍上涨,叠加全球存储原厂锁长单、HBM 持续紧缺,存储采购价格一路走高,成本端的刚性压力很难向下游客户转嫁。

Token 出海收入与存储成本逻辑对比

项目收入端规则成本端规则带来的盈利压力
计费口径按 Token 数量收费,短对话、简单问答单 Token 收益稳定按存储容量、在线会话时长计费,KV 缓存持续占用内存长上下文场景下,Token 收入不变,存储成本持续走高
价格弹性海外市场竞争激烈,Token 价格战频繁,涨价空间有限HBM、DRAM 供需紧张,长期协议锁价,硬件涨价刚性强成本上涨很难同步传导给海外客户
场景差异简单问答 Token 产出效率高,单位存储开销低智能体、多轮连续任务、长文档 RAG 存储开销爆炸新热门场景反而更容易亏损

推高 Token 出海存储成本的核心因素

  1. KV 缓存占用膨胀:多轮对话、智能体任务需要持续保存上下文缓存,大量占用 HBM 和内存,这是当下最主要的存储增量来源。
  2. 存储芯片供需紧张:头部算力厂商锁定长期 HBM 供货订单,供给偏紧,HBM、DRAM 价格持续上行,硬件采购成本抬升。
  3. 合规留存要求:海外不同地区法规要求推理日志、用户会话数据留存,需要额外大容量闪存集群,持续增加存储开支。
  4. 跨时区流量错配:海外多区域部署,为了降低延迟要就近缓存,很多内存资源长时间闲置,拉高单位 Token 的摊销成本。
  5. 分层存储体系投入:为了兼顾速度和成本,厂商要搭建 HBM、普通内存、SSD 三层存储架构,前期基建投入高。

行业现在用来缓解存储压力的落地办法

  1. KV 缓存优化:使用缓存淘汰、压缩、复用算法,自动清理过期会话缓存,减少常驻内存占用。
  2. 分层内存调度:引入 CXL 内存池化技术,把低频缓存下沉到低成本存储,不要全部放在昂贵 HBM 里。
  3. 会话策略调整:设置自动会话超时,限制无活跃对话的缓存驻留时长,降低无效存储占用。
  4. 合作模式切换:和海外云厂商托管合作,由云方承担硬件存储资产投入,模型方输出能力,分摊资本开支风险。
  5. 产品分层定价:对长上下文、Agent 等高存储消耗场景单独加价,不再和普通短对话共用一套 Token 单价。

整体来看,Token 出海不再是单纯比拼算力和模型效果的生意,存储通胀已经成为国产大模型出海盈利的核心瓶颈,单纯靠低价放量走 Token 规模的模式很难持续,后续比拼的是缓存调度、内存架构、场景化定价的综合能力。

【常见问题】

问题 1:Token 出海赚的钱跟不上飙升的存储成本,核心矛盾是什么?

回答 1:Token 出海收入按词元数量结算,但是 KV 缓存、会话上下文带来的成本跟着存储容量走,长上下文、智能体场景存储开销暴涨,Token 单价又很难涨价,所以收入跑不赢存储成本。

问题 2:Token 出海业务里,推高存储成本的 KV Cache 是什么?

回答 2:KV Cache 是大模型推理时保存的对话上下文缓存,Token 出海做多轮对话、AI 智能体任务时,会持续占用 HBM 内存,是这次存储成本飙升最主要的来源。

问题 3:做 Token 出海的厂商,怎么应对存储成本飙升带来的盈利压力?

回答 3:做 Token 出海的厂商可以优化 KV 缓存策略、使用 CXL 内存池化、分层定价、和海外云厂商托管合作,分摊硬件资本开支,缓解存储成本压力。

【参考资料】

[2026-11-13](Token 出海赚的钱,跟不上飙升的存储成本了)36 氪

[2026-11-13](Token 出海赚的钱,跟不上飙升的存储成本了)虎嗅网

[2026-11-12](AI Agent 兴起,KV 缓存持续推高存储需求)IT 时报

[2026-11-10](CXL 内存池化,缓解大模型推理存储通胀)中金财富

【免责声明】

本文基于公开行业报道整理,Token 出海定价、存储芯片价格、海外合规政策均存在变动;不同模型厂商的缓存优化方案、海外客户结构差异较大,本文不构成大模型出海业务投入、算力集群采购的投资与经营建议。

今日大家都在搜的词: