跳到正文
原文
Reddit · r/LocalLLaMA· /u/fulgencio_batista·· 3 小时前AI 评分38

Telperion 发布 Qwen3.8-27B 潜在注意力变体:MLA 与 GLA-g2 压缩 KV cache 4 倍

New model from Telperion: Qwen3.8-27B-MLA & Qwen3.8-27B-GLA-g2. 4x smaller KV cache, smarter, and more efficient reasoning.

AI 导读

Telperion 发布基于 Qwen3.8-27B 的两个潜在注意力变体 Qwen3.8-27B-MLA 与 Qwen3.8-27B-GLA-g2,将 KV cache 压缩 4 倍,可在消费级硬件上扩展近 4 倍上下文长度,或在服务器上提升近 4 倍并发。

来源:Reddit · r/LocalLLaMA · reddit.com