量子位 QbitAI· 听雨·· 6 天前精选AI 评分80
文心 Unlimited OCR 2 开源，KV Cache 占用从 47GB 降至 1.77GB
KV Cache被压成常数！OCR开源新王：页数没上限，缓存砍96%
AI 导读
百度发布并开源文心 Unlimited OCR 2，可连续识别数千页文档，KV Cache 峰值占用从 47GB 降至 1.77GB，减少约 96%。新模型采用稀疏参考滑动窗口注意力机制 SR-SWA 和无限解码机制，16 路并发端到端吞吐量从 360 提升至 1315 Token/秒，达到标准解码的约 3.65 倍。
推荐理由
原文给出超长文档识别、缓存压缩与吞吐提升数据，并拆解可迁移的注意力筛选和分块解码机制。
来源：量子位 QbitAI · qbitai.com
最近 7 天的更新
- Google 发布网络安全模型 Gemini 4 Carbon，先向审核通过的防御方开放Reddit · r/artificial·
- Mistral 开放万亿参数模型 Mistral Large 4 权重，主打网络安全TechCrunch · AI·
- Mistral Large 4（Le Chonk）在 Hugging Face 发布Hugging Face Blog·
- Mistral 发布 Mistral Large 4：1T 参数 MoE 多模态模型Reddit · r/LocalLLaMA·
- Mistral 发布 1 万亿参数多模态模型 Mistral Large 4 开放权重Mistral AI·
- Gemini 4 Carbon 登顶 Artificial Analysis Intelligence Index v5Hacker News · 首页·
- Google 发布 Gemini 4 Carbon 模型Product Hunt · AI 分类·
- Gemini 4 Carbon 登顶多项榜单，首批面向网络安全防御者开放Latent Space·
相关工具
- Meta 发布 Muse Wonder 与 Muse Wonder Full 模型90
- Mistral 发布 Mistral Large 4：1T 参数 MoE 多模态模型88
- OpenAI 发布 GPT-6.1 Terra，API 价格较 GPT-5.6 Terra 降低一半87
- Meta 开源权重模型 Muse Spark Open，主打桌面端智能体与编码能力87
- Meta 开源多模态 MoE 模型 Muse Spark Open：约 816B 总参、每 token 激活约 42B87
- Mistral 发布 Mistral Large 4 公开预览：1 万亿参数原生多模态模型85
- Dream Labs 发布 Dream-1 机器人基础模型并开放公共 API84
- OlmoEarth v1.3 发布全球卫星嵌入模型与预计算数据84