Xolotl推理引擎单卡4090跑通DeepSeek-V4.1-Flash全量552B参数

2026年10月18日，Reddit r/LocalLLaMA 有用户发布了一款名为 Xolotl 的推理引擎。该引擎基于 Strata 构建，目标是让大参数模型也能在消费级硬件上运行。据介绍，Xolotl 可以在单张 RTX 4090（24GB 显存）搭配 90GB DDR4 内存的普通游戏 PC 上，加载并运行全量 552B 参数的 DeepSeek-V4.1-Flash 模型。这意味着此前通常需要多卡服务器或数据中心级 GPU 才能承载的大模型，被部署到了家用级别的硬件配置上。截至目前，这是该事件的首批报道，尚无关于性能实测、推理速度或后续版本的更多信息披露。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。