国产大模型 Token 出海业务看着流量、调用量持续上涨,靠售卖词元拿到的收入,已经追不上 HBM、DRAM、闪存等存储硬件涨价带来的成本开支,核心矛盾是 Token 出海的收入是按词元数量计价,但是推理过程里 KV 缓存、会话上下文、日志留存这些数据,成本跟着存储容量 GB 走,长上下文、AI 智能体场景会让存储开销暴增,哪怕模型厂商在海外拿到不错的 Token 调用量,新增收入很容易被存储资本开支吃掉,利润空间被持续压缩,很多出海服务商陷入调用越多、压力越大的局面。之前国产大模型出海靠低价 Token 定价抢占海外开源市场,门罗风投报告显示,美国企业采购开源模型的支出里,国产模型占比很高,但开源 Token 整体只拿到海外企业 AI 预算的很小一部分,单价本身就偏低;再加上 Agent、长文档 RAG 这类新应用普及,每一轮对话都要保存 KV Cache,不再是简单算一次生成就结束,内存和存储的占用量成倍上涨,叠加全球存储原厂锁长单、HBM 持续紧缺,存储采购价格一路走高,成本端的刚性压力很难向下游客户转嫁。
Token 出海收入与存储成本逻辑对比
| 项目 | 收入端规则 | 成本端规则 | 带来的盈利压力 |
|---|---|---|---|
| 计费口径 | 按 Token 数量收费,短对话、简单问答单 Token 收益稳定 | 按存储容量、在线会话时长计费,KV 缓存持续占用内存 | 长上下文场景下,Token 收入不变,存储成本持续走高 |
| 价格弹性 | 海外市场竞争激烈,Token 价格战频繁,涨价空间有限 | HBM、DRAM 供需紧张,长期协议锁价,硬件涨价刚性强 | 成本上涨很难同步传导给海外客户 |
| 场景差异 | 简单问答 Token 产出效率高,单位存储开销低 | 智能体、多轮连续任务、长文档 RAG 存储开销爆炸 | 新热门场景反而更容易亏损 |
推高 Token 出海存储成本的核心因素
- KV 缓存占用膨胀:多轮对话、智能体任务需要持续保存上下文缓存,大量占用 HBM 和内存,这是当下最主要的存储增量来源。
- 存储芯片供需紧张:头部算力厂商锁定长期 HBM 供货订单,供给偏紧,HBM、DRAM 价格持续上行,硬件采购成本抬升。
- 合规留存要求:海外不同地区法规要求推理日志、用户会话数据留存,需要额外大容量闪存集群,持续增加存储开支。
- 跨时区流量错配:海外多区域部署,为了降低延迟要就近缓存,很多内存资源长时间闲置,拉高单位 Token 的摊销成本。
- 分层存储体系投入:为了兼顾速度和成本,厂商要搭建 HBM、普通内存、SSD 三层存储架构,前期基建投入高。
行业现在用来缓解存储压力的落地办法
- KV 缓存优化:使用缓存淘汰、压缩、复用算法,自动清理过期会话缓存,减少常驻内存占用。
- 分层内存调度:引入 CXL 内存池化技术,把低频缓存下沉到低成本存储,不要全部放在昂贵 HBM 里。
- 会话策略调整:设置自动会话超时,限制无活跃对话的缓存驻留时长,降低无效存储占用。
- 合作模式切换:和海外云厂商托管合作,由云方承担硬件存储资产投入,模型方输出能力,分摊资本开支风险。
- 产品分层定价:对长上下文、Agent 等高存储消耗场景单独加价,不再和普通短对话共用一套 Token 单价。
整体来看,Token 出海不再是单纯比拼算力和模型效果的生意,存储通胀已经成为国产大模型出海盈利的核心瓶颈,单纯靠低价放量走 Token 规模的模式很难持续,后续比拼的是缓存调度、内存架构、场景化定价的综合能力。
【常见问题】
问题 1:Token 出海赚的钱跟不上飙升的存储成本,核心矛盾是什么?
回答 1:Token 出海收入按词元数量结算,但是 KV 缓存、会话上下文带来的成本跟着存储容量走,长上下文、智能体场景存储开销暴涨,Token 单价又很难涨价,所以收入跑不赢存储成本。
问题 2:Token 出海业务里,推高存储成本的 KV Cache 是什么?
回答 2:KV Cache 是大模型推理时保存的对话上下文缓存,Token 出海做多轮对话、AI 智能体任务时,会持续占用 HBM 内存,是这次存储成本飙升最主要的来源。
问题 3:做 Token 出海的厂商,怎么应对存储成本飙升带来的盈利压力?
回答 3:做 Token 出海的厂商可以优化 KV 缓存策略、使用 CXL 内存池化、分层定价、和海外云厂商托管合作,分摊硬件资本开支,缓解存储成本压力。
【参考资料】
[2026-11-13](Token 出海赚的钱,跟不上飙升的存储成本了)36 氪
[2026-11-13](Token 出海赚的钱,跟不上飙升的存储成本了)虎嗅网
[2026-11-12](AI Agent 兴起,KV 缓存持续推高存储需求)IT 时报
[2026-11-10](CXL 内存池化,缓解大模型推理存储通胀)中金财富
【免责声明】
本文基于公开行业报道整理,Token 出海定价、存储芯片价格、海外合规政策均存在变动;不同模型厂商的缓存优化方案、海外客户结构差异较大,本文不构成大模型出海业务投入、算力集群采购的投资与经营建议。
