Reddit · r/LocalLLaMA· /u/Careful-Report6526·· 5 小时前AI 评分62
llmbenchmarks.io 推出 4B 至 35B 本地 GPU 模型评测
I built a local GPU benchmark server for 4B to 35B models because I was tired of synthetic cloud leaderboards and tiny sample tests
AI 导读
llmbenchmarks.io 推出本地 GPU 模型评测页，覆盖 12 个 4B 至 35B 开源权重模型。作者使用两张 RTX 5060 Ti 和 vLLM，在完整数据集上分别测试关闭与开启思考模式的结果，并记录耗时、tokens per second 和时间效率分数。
来源：Reddit · r/LocalLLaMA · reddit.com