跳到正文
原文
Reddit · r/LocalLLaMA· /u/jacek2023·· 2 天前AI 评分55

DiffuSpace 发布 Clover-35B-A3B-Preview 扩散语言模型

Diffuspace/Clover-35B-A3B-Preview · Hugging Face

AI 导读

DiffuSpace 发布首个模型 Clover-35B-A3B-Preview,采用 35B 参数 MoE 骨干、每 token 约 3B 激活参数,支持块扩散生成和 128K 上下文窗口。官方称其在发布博客所列基准上取得开源扩散语言模型中的 SOTA 表现,模型已上线 Hugging Face,并附博客与代码及推理后端链接。

来源:Reddit · r/LocalLLaMA · reddit.com