Reddit · r/LocalLLaMA· /u/xrailgun·· 8 小时前AI 评分36
NInfer-2080ti-22g v0.3.0 支持 Windows 原生运行,体积缩减至 0.28 GB
NInfer-2080ti-22g now supports Windows-native and is only 0.28 GB
AI 导读
NInfer for Turing v0.3.0 发布,新增 Windows 原生支持,无需再依赖 Linux、WSL2 或 Docker。该版本移除 RTX 5090、FP8、FP4 和 35B-A3B 相关代码路径,构建产物从 1.56GB 缩减至 0.28GB,并提供预编译包。
来源:Reddit · r/LocalLLaMA · reddit.com