DeepSeek 全面开源推理框架 DeepInfer：单卡月入 18 万元

DeepSeek 于 2026 年 10 月 20 日宣布全面开源内部推理框架 DeepInfer，并同步开源生产级 Token 编解码组件 deepseek-recipe。这一动作把推理层从黑盒变成可优化、可复用的基础设施：基于 DeepInfer 的 DeepSeek V4.1 Flash 大规模推理服务，单一集群日吞吐已达 155 万亿 Tokens，单卡满负荷月收入约 18.27 万元人民币。对 AI 应用开发者而言，开源推理栈意味着算力成本第一次有了可被社区共同优化的中间层。

一、DeepSeek 开源了什么：DeepInfer 与 deepseek-recipe

据DeepSeek 在开源一系列大模型、TileLang 编译工具及推理算子库的基础上，进一步将内部推理框架 DeepSeek 推理框架（DeepInfer）全面开源，并同步开源生产级 Token 编解码组件（deepseek-recipe）。后者与 DeepSeek 官方 API 处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验。

这套组合的含义很直接：此前开发者要复现 DeepSeek 的服务体验，需要自行补齐 Token 编解码、采样、请求调度等环节的细节；如今官方把生产路径完整摊开，社区可以从第一行代码开始对齐线上行为，而不是靠黑盒逆向。

二、为什么推理框架是算力成本的关键中间层

先看结论：大模型的成本竞争不只发生在训练阶段，推理才是日常开支的主体。训练是一次性投入，推理是持续支出；模型每被调用一次，就有一笔电费、算力费与运维成本发生。推理框架恰恰决定了同样一张卡能吞吐多少 Token、延迟压到多低，是「训练之外」决定算力成本的关键变量。

DeepSeek 给出的数字印证了这一点：据 DeepSeek 披露，目前单一集群的服务吞吐是 155 万亿 Tokens/天。如此量级的吞吐，依赖的正是 DeepInfer 集成的高性能算子与深度优化的推理引擎——同样的硬件，不同的中间层，产出能力可以差出一个数量级。

三、DeepInfer 的技术能力与平台兼容性

DeepInfer 的能力清单覆盖大规模推理的主要瓶颈：分布式推理解决单卡放不下、单机跑不动的扩展问题；推测解码用草稿模型加速自回归生成；滑动窗口注意力（SWA，Sliding Window Attention）控制长上下文的内存开销；结构化输出则让模型按约定格式稳定返回，适配 Agent 与工具调用场景。

DeepSeek 表示「训练使模型学有所成，推理则让模型为人所用」，希望通过分享内部部署经验，帮助开发者与企业优化大规模推理的吞吐与延迟，降低算力成本、减少能源消耗；框架兼容英伟达与华为昇腾平台。这意味着开源推理栈并非绑定单一硬件生态，而是给算力选择留出弹性。

基于 DeepInfer，DeepSeek 已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。背景信息是：2026-10-17，DeepSeek V4.1 Flash 已更新至 V4.1-Flash-1017 版本，官方网页端、APP 与 API 模型同步变更；未来 DeepSeek 新模型的推理代码及后续优化也将在此框架上持续更新。

四、单卡月收入 18.27 万元：推理经济的算账逻辑

据 DeepSeek 披露：单卡每小时收入为 38 美元（按谷价，约合人民币 253.77 元）；一张卡 24 小时满负荷运行，每天收入约 6090.48 元；一个月（30 天）约 18.27 万元。这笔账说明了推理框架的变现能力：同样一张卡，吞吐越高、利用率越满，单位硬件成本摊得越薄，收入越可观。

「谷价」的计价口径也传递出信号——不是所有时段都能卖到峰值价格，按低谷价格计算仍能撑起单卡月收入 18.27 万元，说明 DeepInfer 的优化把硬件的经济性抬到了新水平。对算力供给方而言，这是把闲置算力变成可计价服务的关键；对应用方而言，则意味着按量计费的推理单价有望继续下探。

五、开源推理栈对 AI 应用成本的意义

推理栈开源的最大价值，是让算力成本的优化从「供应商内部课题」变成「社区共同课题」。过去，推理性能是各家大模型厂商的私有竞争力，外部开发者只能按 API 单价被动接受成本；现在，DeepInfer 与 deepseek-recipe 把生产级路径公开，任何团队都可以在此基础上优化、定制、再分发。

对企业而言，选择 AI 技术栈时多了一个维度：不只是比较模型能力，还要比较推理框架能否落地到自有硬件。兼容英伟达与华为昇腾，意味着国内企业可以在自主算力上运行与官方对齐的推理服务，降低对外部环境的依赖。

对行业而言，开源推理栈会压低推理服务的整体成本水位。当头部玩家愿意公开内部框架，后来者就不必从零造轮子，可以把精力放到场景与产品上。算力成本的下降，最终会传导为 AI 应用价格的下降，让更多业务用得起、用得上。

六、FAQ 常见问题

Q1：DeepInfer 是什么？

DeepInfer 是 DeepSeek 的内部推理框架，于 2026 年 10 月 20 日全面开源。据中国基金报（腾讯新闻转载，2026-10-20），它集成高性能算子和深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，可在英伟达与华为昇腾平台上运行。

Q2：deepseek-recipe 有什么用？

deepseek-recipe 是同步开源的生产级 Token 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验。

Q3：DeepInfer 开源对算力成本意味着什么？

据 DeepSeek 披露，基于 DeepInfer 的单一集群服务吞吐为 155 万亿 Tokens/天，单卡满负荷月收入约 18.27 万元。DeepSeek 希望通过分享内部部署经验，帮助开发者与企业优化大规模推理的吞吐与延迟，降低算力成本、减少能源消耗。开源推理栈把成本优化从厂商内部课题变成社区共同课题。