跳到正文
热点事件持续更新

DeepSeek开源DeepInfer推理框架

2 篇报道2 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月20日,DeepSeek在GitHub开源生产用推理引擎DeepInfer,首个支持DeepSeek-V4.1-Flash。该框架提供FlashMLA、DeepGEMM、DeepEP等优化算子,以及DSpark与置信度调度验证、SWA有界重放、异步调度、批不变推理、确定性采样和结构化输出,支持NVIDIA SM100与华为昇腾950 NPU。同日,Reddit r/LocalLLaMA出现相关发布消息,但该材料仅有标题,未提供功能、版本、适用规模或使用方式等细节。

AI 根据报道生成 · 19 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. Reddit · r/LocalLLaMA
    DeepSeek 发布开源推理框架 DeepInfer

    DeepSeek 发布开源高性能、大规模推理框架 DeepInfer,面向 DeepSeek 模型提供推理基础设施。当前材料仅包含标题,未提供功能、版本、适用规模或使用方式等细节。

  2. Hacker News · 首页精选
    DeepSeek 开源推理引擎 DeepInfer,支持 DeepSeek-V4.1-Flash

    DeepSeek 在 GitHub 开源其生产用推理引擎 DeepInfer,当前支持 DeepSeek-V4.1-Flash,提供优化算子(FlashMLA、DeepGEMM、DeepEP 等)、DSpark 与置信度调度验证、SWA 有界重放、异步调度、批不变推理和确定性采样,并支持结构化输出;硬件支持 NVIDIA SM100 与华为昇腾 950 NPU。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。