跳转到正文

AI午报 / ENGINEERING JOURNAL

AI 晚报|10月20日|DeepSeek 开源内部推理框架 DeepInfer

DeepSeek 开源支撑其线上服务的推理框架 DeepInfer;工信部称我国智能算力达 2592EFLOPS;澜起科技预告三季度净利最高增 175%。

AI 整理12 分钟阅读
DeepInfer 项目在 GitHub 上的预览卡片,显示 deepseek-ai/DeepInfer 仓库名

今天下午最值得关注的是 DeepSeek 把内部推理框架 DeepInfer 开源,大模型「怎么便宜地跑起来」这一层第一次被公开。另一条主线是算力和芯片需求:工信部披露智能算力同比增长 146%,澜起科技、内存厂商都在吃到 AI 服务器的红利。

今日头条:DeepSeek 开源推理框架 DeepInfer

发生了什么。 据 IT之家报道,DeepSeek 宣布将内部推理框架 DeepInfer 全面开源 [1]。推理框架是把训练好的模型部署成线上服务的软件层。DeepSeek 称,基于 DeepInfer,官方已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务 [1]。GitHub 项目说明写道,DeepInfer 是支撑 DeepSeek 大规模生产服务的高性能推理框架,此次开源版本提供离线推理及规模化服务所需的核心功能,采用 Apache 2.0 许可证 [2]。

背景。 DeepSeek 在文章中指出,模型能力由模型本身划定,但能否以合理成本提供超大规模服务,还取决于长期不为公众了解的中间层,即推理框架 [1]。过去开源社区拿到的多是模型权重,头部厂商真正用于线上服务的推理系统很少公开。

影响。 对开发者和云厂商来说,这意味着可以直接参考 DeepSeek 线上服务的工程做法,而不只是拿到模型。值得注意的是,项目说明列出的支持硬件同时包括英伟达 SM100 GPU 和华为昇腾 950 NPU [2],这对希望在国产算力上部署大模型的企业有现实意义。

未定之处。 项目说明中的性能数据是在特定配置下测得:预填充使用 4 块 SM100 GPU、解码使用 64 块 [2],普通企业的硬件规模很难直接复现。目前支持的模型只有 DeepSeek-V4.1-Flash [2],社区能否把它用到其他模型上,还需要时间验证。

DeepInfer 预填充阶段性能图:未缓存输入吞吐量与延迟的关系曲线

图:Prefill: non-cached input throughput vs. latency(来源:DeepSeek(GitHub))

要闻

工信部:智能算力达 2592EFLOPS,百余款 AI 终端达 L3 级

工信部数据显示,截至 2026 年 9 月底,我国智能算力规模达 2592EFLOPS,同比增长 146% [3]。EFLOPS 是每秒百亿亿次浮点运算,用来衡量算力大小。同日,工信部还表示,已有超百款人工智能终端产品符合 L3 辅助级能力要求,能理解复杂意图、主动服务用户,覆盖手机、电脑、电视、眼镜、汽车座舱、耳机等品类 [4]。电子信息制造业 1—8 月利润总额 8475 亿元,同比增长 109.9% [4]。

为什么重要:算力和终端两端的数字一起看,说明 AI 正同时拉动基础设施投资和消费电子换代,相关硬件企业的需求有官方数据背书。

工信部通信行业运行情况报道配图

图:工信部通信行业运行情况报道配图(来源:人民邮电报(新浪科技))

澜起科技:三季度净利预增最高 175%

澜起科技公告,预计 2026 年第三季度归母净利润为 12.00 亿元至 13.00 亿元(人民币),同比增长 153.6% 至 174.7% [5]。公司解释称,AI 推理及 Agent 应用快速发展,带动服务器 CPU 需求增长,DDR5 内存接口及模组配套芯片出货量大幅增加 [5]。

为什么重要:这是 AI 需求从 GPU 外溢到 CPU 和内存配套芯片的一个直接证据,推理和智能体应用正在改变服务器的采购结构。

腾讯 WorkBuddy 月活 3235 万,居 AI 办公产品首位

快科技援引榜单数据称,腾讯 WorkBuddy 合计月活用户达 3235.3 万,季度环比增长 647.1% [6]。第二名百度搭子月活 977 万,环比增幅 1567.5%,是所有产品里最高的;第三名阿里千问办公月活 790.5 万 [6]。

为什么重要:大厂的 AI 办公产品正在快速放量,排名和增速差距也说明这个赛道远未定型,对企业选型和开发者都值得关注。

AI 办公产品月活用户排行榜截图

图:AI 办公产品月活用户排行榜截图(来源:快科技(新浪科技))

美光台湾工会计划罢工,争取分享 AI 内存红利

The Next Web 报道,美光台湾员工与公司的奖金谈判破裂,工会计划罢工 [7]。报道指出,争议的焦点是奖金而不是底薪;美光的韩国对手三星和 SK 海力士已经把奖金与公司利润挂钩 [7]。台中工会尚未举行自己的罢工投票 [7]。

为什么重要:AI 带动的内存涨价让芯片厂利润大增,员工要求分享收益,劳资关系可能成为影响内存供应的新变量。

数字速览

  • 2592EFLOPS:截至 9 月底我国智能算力规模,同比增 146% [3]
  • 超百款:符合 L3 辅助级要求的 AI 终端产品 [4]
  • 12.00—13.00 亿元:澜起科技三季度预计归母净利润 [5]
  • 3235.3 万:腾讯 WorkBuddy 合计月活用户 [6]
  • 约 11 亿美元:剂泰科技与礼来合作的里程碑付款上限 [10]

快讯

  • 野村证券:维持三星电子、SK 海力士买入评级,目标价分别为 67 万韩元和 470 万韩元,并认为对中国内存厂追赶的担忧过度 [9]
  • Elice:韩国 AI 云公司 Elice 在科斯达克上市首日下跌,认购热度没有延续到二级市场 [8]
  • 剂泰科技:与礼来就 AI 驱动的 LNP 递送技术达成合作,首付款逾千万美元,里程碑付款最高约 11 亿美元 [10]
  • 交通运输部:发布第一批水运领域 AI 应用场景指引,以及 2027 年拟建成的十大智能体和十大垂类模型 [11]
  • 网信广东:广东新增 7 款完成登记的生成式 AI 服务,累计达 108 款 [12]
  • 外交部:回应美国政府要求机构停用 DeepSeek,表示反对将科技经贸问题政治化 [13]
  • Metis:前 Google DeepMind 研究员在伦敦创办 AI 公司,主张不走「更大模型、更高训练预算」路线 [14]
  • GMO:日本安全公司称发现 6 台发起 AI 驱动攻击的服务器,日本政府呼吁企业加强网络防御 [15]

编辑观察

把今天几件事放在一起看,我们认为 AI 竞争的重心正在从「谁的模型更强」转向「谁能更便宜、更稳定地把模型跑起来」。DeepSeek 开源推理框架,Metis 强调计算效率,都指向同一个问题:推理成本。与此同时,推理需求已经传导到 CPU、内存接口芯片和存储,澜起的业绩、野村对内存短缺的判断以及美光的劳资争议,都是这条链条上的回声。值得注意的是,DeepInfer 同时支持英伟达和昇腾,在外部限制增多的背景下,软件层的兼容性可能成为国产算力落地的关键。

接下来关注

  • 10月22日:美光台湾工会计划罢工的日期,关注是否如期举行及对生产的影响 [7]

参考来源

  1. DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,目标实现大模型普惠 — IT之家,访问于 2026-10-20
  2. deepseek-ai/DeepInfer — DeepSeek(GitHub),访问于 2026-10-20
  3. 工信部:智算规模增长146%,工业5G专网超2.6万……通信行业平稳发展 — 人民邮电报(新浪科技),访问于 2026-10-20
  4. 工信部:AI手机电脑旗舰已具备端侧自主执行任务能力,AI终端从"被动响应"转向"主动服务" — 红星新闻(新浪科技),访问于 2026-10-20
  5. 服务器CPU需求增长,澜起科技:预计第三季度净利润同比增长154%-175% — 财闻(同花顺),访问于 2026-10-20
  6. 腾讯WorkBuddy拿下第一:月活突破3200万 环比暴涨647% — 快科技(新浪科技),访问于 2026-10-20
  7. Micron workers in Taiwan to strike as bonus talks with chipmaker fail — The Next Web,访问于 2026-10-20
  8. Elice shares fall in KOSDAQ debut after $151M IPO — TechNode Global,访问于 2026-10-20
  9. Nomura Keeps Buy on Samsung, SK hynix, Sees Memory Shortage Through 2028 — Seoul Economic Daily,访问于 2026-10-20
  10. 剂泰科技与礼来达成战略合作 推进新一代组织特异性LNP递送技术 — 财闻(新浪财经),访问于 2026-10-20
  11. 首批水运领域人工智能应用场景指引发布 — 第一财经(新浪财经),访问于 2026-10-20
  12. 广东省新增7款已完成登记的生成式人工智能服务 — 界面新闻(新浪),访问于 2026-10-20
  13. 外交部回应美政府要求机构停用 DeepSeek:中方反对将科技经贸问题政治化 — IT之家,访问于 2026-10-20
  14. Former Google DeepMind top researcher launches London “compute-efficient” AI company — Tech.eu,访问于 2026-10-20
  15. Chinese AI tool behind cyberattacks in Japan: security firm — The Korea Times,访问于 2026-10-20

分享这篇文章

X

KEEP EXPLORING

继续阅读

AI午报5 分钟阅读

AI 午报|10月20日|新石器完成近4亿美元E轮融资

无人配送企业新石器完成近4亿美元E轮融资,国家级基金参与领投;苏皖10城成立国家数据标注先行先试联盟;算电协同成为应对AI用电增长的新解法。

AI午报6 分钟阅读

AI 午报|10月19日|九部门发文深入实施人工智能+制造

商务部等九部门发文推进科技兴商,深化“人工智能+制造”;推理算力成需求主体,OpenAI 官网挂出19个机器人岗位。