Hacker News · 首页· ggcr·· 2 小时前精选AI 评分80
DeepSeek 开源推理引擎 DeepInfer,支持 DeepSeek-V4.1-Flash
DeepSeek just open-sourced its inference engine
AI 导读
DeepSeek 在 GitHub 开源其生产用推理引擎 DeepInfer,当前支持 DeepSeek-V4.1-Flash,提供优化算子(FlashMLA、DeepGEMM、DeepEP 等)、DSpark 与置信度调度验证、SWA 有界重放、异步调度、批不变推理和确定性采样,并支持结构化输出;硬件支持 NVIDIA SM100 与华为昇腾 950 NPU。
来源:Hacker News · 首页 · github.com