Spinf 开源批量评分推理服务器

2026年10月31日，Spinf 在 Hacker News 首页发布开源项目 spinf-serve，定位为面向批量分类与决策的推理服务。据该报道，它一次读取内容即可回答多个问题，每个答案给出各选项的概率而非生成文本，采用 Apache 2.0 协议，并提供 OpenAI 兼容 API，运行在单张 24GB GPU 上。目前进展停留在项目开源发布与接口说明层面，报道未披露性能数据、评测结果或后续版本计划。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。