Slipstream 发布：可在 64GB Mac 上以 41-52 tok/s 运行 95.5 GiB Qwen3.8-Flash-Next
开发者发布 Slipstream 引擎，可在 64GB Mac 上以 41-52 tok/s 运行 95.5 GiB Qwen3.8-Flash-Next 模型，比 llama.cpp 快 1.76 倍。
推荐理由：原文给出了新推理引擎的具体性能数据、架构设计和与 llama.cpp 的对比，读者可以据此判断它在本地运行大模型场景下的实际价值。
AI 工具导航
近 7 天 · AI 圈最值得看的 3 个AI 新工具
每条发布 = 一张工具卡 · 命中 "新工具 / 产品更新 / 模型发布 / 平台" 标签(itemType=tool_release)· 按时间排序
#部署/工程×
Reddit · r/LocalLLaMA精选AI 评分8181 Reddit · r/LocalLLaMA精选AI 评分8080 Jeff-Qwen3.5-0.8B v1.2 + 9 个 LoRA 适配器：置于 Qwen3.8-27B 前实现 38 倍加速和 +8.7 准确率，额外内存占用不足 2GB
作者发布 Jeff-Qwen3.5-0.8B，这是一款小型“System 1”模型，可在一轮前向传播中从给定选项中做出选择并返回校准概率。作者为其训练了 9 个 LoRA 适配器，分别处理 prompt 注入检测、工具选择、票据优先级排序、答案溯源等常见决策任务。
推荐理由：原文给出了具体的性能对比数据和开源资源，读者可以据此判断这种“小模型+LoRA适配器前置”的架构是否适合自己本地部署的场景。
Hugging Face Blog精选AI 评分6161 AllenAI 发布 Olmo-core 3：面向大规模 MoE 的开源可扩展训练基础设施
AllenAI 发布 Olmo-core 3 训练框架，支持将专家池从 8 扩展到 128 而每 token 仅激活 4 个专家，总参数量从 4.6B 增至 47B，训练吞吐量仅下降不到 5%。在 8 个 NVIDIA B300 GPU 上，47B MoE 达 52,000 tokens/s/GPU，约为此前实现的 2.7 倍。系统已测试至 1.2 万亿参数规模。
推荐理由：原文给出了专家池扩展、吞吐量提升和参数规模的具体数字，读者可以据此判断这套训练基础设施对大模型研究的具体价值。
已经到底了