Reddit · r/LocalLLaMA· /u/Top-Evidence174·· 7 小时前AI 评分57
Mica v0.5 发布,4B 模型支持 32k token 决策输入
Mica v0.5: The smartest 4B decision model is also the fastest one. 20 ms per answer, 25x faster than Jev
AI 导读
Mica v0.5 是一款 4B 决策模型,可在单张消费级 GPU 上运行,作者称其在 RTX 6000 Ada 上每次决策耗时 19.8 ms。Mica v0.5 在 JevBench Hard 和 JDI 上分别取得 84/111 和 58.8,支持 yes/no、多选及 2 至 255 级评分;模型提供 Hugging Face 和 GitHub 入口,采用 Apache-2.0 许可。
来源:Reddit · r/LocalLLaMA · reddit.com