Reddit · r/LocalLLaMA· /u/clem844·· 4 天前AI 评分61
OVH 发布 Olala mini 7A1B 模型,8GB 显存可运行
OVH announces Olala mini 7A1B
AI 导读
OVH 发布 Olala mini 7A1B,采用 7B 参数架构、每层 256 个专家中 1B 激活参数,结合 Differential-TPA 与 Mamba-3 的混合注意力,以 BF16 格式运行。
来源:Reddit · r/LocalLLaMA · reddit.com