跳到正文
原文
Reddit · r/LocalLLaMA· /u/Top-Evidence174·· 4 小时前AI 评分55

Mica v0.5 决策模型速度评测:4B 模型快于 395M 编码器

A 4B model faster than a 395M encoder? 14 ms vs 31 ms (2.2x). Another 4B model: 150 ms (10x slower)

AI 导读

作者在 RTX 6000 Ada 上比较 Mica v0.5、PPLX Decider 1.2 Flash 与 Laya,Mica 基于 Qwen3.5-4B 和 LoRA,4 项任务的单次决策中位耗时为 11–18 ms,约比 PPLX 快 10 倍、比 Laya 快 2 倍。

来源:Reddit · r/LocalLLaMA · reddit.com