跳到正文
热点事件观察中

单张3090运行DeepSeek-V4.1量化模型

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

2026年10月28日,Reddit用户r/LocalLLaMA作者披露,使用Windows版delta-inference-engine,在单张RTX 3090上运行DeepSeek-V4.1-Flash-1017的Q2 GGUF量化模型。该配置支持完整1M上下文,通用文本与代码、数学任务的输出和DeepSeek API下一token一致率分别为90.2%和92.4%。作者称实测平均生成速度为41 tok/s,项目以MIT许可证开放。

AI 根据报道生成 · 1 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Reddit · r/LocalLLaMA
    DeepSeek-V4.1-Flash-1017 在单张 RTX 3090 上实现 41 tok/s 本地推理

    作者使用 Windows 版 delta-inference-engine,在单张 RTX 3090 上运行 DeepSeek-V4.1-Flash-1017 的 Q2 GGUF,实测平均生成速度为 41 tok/s。该配置支持完整 1M 上下文,输出与 DeepSeek API 的下一 token 一致率在通用文本和代码/数学任务上分别为 90.2% 和 92.4%,项目以 MIT 许可证开放。

本事件热度走势

当前热度 4·可比范围峰值 10(10月28日 10:00)·近 24 小时可比范围变化 -49%

02.557.51010月28日10:0010月28日20:0010月29日05:0010月29日15:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。