跳到正文
原文
Hacker News · 首页· fibo·· 6 天前AI 评分69

Redis 创建者发布 ds4 本地推理引擎,支持 DeepSeek V4、GLM 5.x、Qwen3.8

From the creator of Redis; run LLM locally with ds4

AI 导读

Redis 创建者推出 ds4 本地前沿模型推理引擎,基于 C 语言开发,支持 DeepSeek V4/V4.1 Flash、GLM 5.x 和 Qwen3.8 Flash Next,采用非对称 2-bit 量化技术将 2840 亿参数的 MoE 模型压缩至 128GB 内存设备可运行,提供 CLI、HTTP API 和原生智能体三种接口。已开源并提供下载脚本。

来源:Hacker News · 首页 · dwarfstar.sh