Hacker News · 首页· tgluck·· 9 天前精选AI 评分79
Jevstiller:带 Disagreement Bound 的本地模型蒸馏工具
Show HN: Jevstiller – Distill Jev into a local model, with a disagreement bound
AI 导读
Jevstiller 是一个将 Jev 模型蒸馏为本地小模型的系统,使用 bge-small 编码器加逻辑回归头,约几百 KB,CPU 上 15ms 响应。核心创新是提供 95% 置信度的协议保证:设置如 98% 的目标Agreement,系统保证本地模型与 Jev 的不一致率不超过预算。
推荐理由
给出了一个带数学保证的蒸馏系统实现,读者可以学习其如何用统计方法保证协议达成。
来源:Hacker News · 首页 · jevstiller.pages.dev
最近 7 天的更新
- NVIDIA 与 Microsoft 联合推出 RTX Spark 与 DGX Station for WindowsNVIDIA Blog·
- Anthropic 发布 Claude Haiku 5.5,主打高吞吐低成本任务Hacker News · 首页·
- Reflection 发布开源权重模型 Beam:501B 总参数 / 23B 激活,主打编码与智能体效率Hacker News · 首页·
- Cursor Remote Lite:手机远程控制电脑 Cursor 的应用Product Hunt · AI 分类·
- Cloudflare 发布 Artifacts 新功能并发起下一代 Git 平台竞赛Hacker News · 首页·
- Aleph Alpha 发布 Kolibri 主权开放权重模型Hacker News · 首页·
- Singularity:原子化 ticket 驱动的 AI 编码工具Product Hunt · AI 分类·
- eu/jev 发布欧盟版 System One 模型Product Hunt · AI 分类·
相关工具
- Slipstream 发布:可在 64GB Mac 上以 41-52 tok/s 运行 95.5 GiB Qwen3.8-Flash-Next81
- Jeff-Qwen3.5-0.8B v1.2 + 9 个 LoRA 适配器:置于 Qwen3.8-27B 前实现 38 倍加速和 +8.7 准确率,额外内存占用不足 2GB80
- OpenAI DevDay 2026 发布 Dots、GPT-6.1 Sol 等新品,ChatGPT 周活达 12 亿80
- OpenAI 推出常驻智能体 Dots,与 Meta Muse 竞争80
- Earendil 发布 Pi Durable:用于构建持久化智能体的实验性框架78
- Mistral 推出 OCR 4:支持 170 种语言的文档解析模型78
- Audionaut 发布:开源多轨音频编辑器,支持 MCP 可被 AI 代理驱动77
- Microsoft AI 发布用于语音智能体的转录和文本转语音模型77