跳到正文
原文
Reddit · r/LocalLLaMA· /u/clem844·· 4 天前AI 评分61

OVH 发布 Olala mini 7A1B 模型,8GB 显存可运行

OVH announces Olala mini 7A1B

AI 导读

OVH 发布 Olala mini 7A1B,采用 7B 参数架构、每层 256 个专家中 1B 激活参数,结合 Differential-TPA 与 Mamba-3 的混合注意力,以 BF16 格式运行。

来源:Reddit · r/LocalLLaMA · reddit.com