跳到正文
原文
Hacker News · 首页· anerli·· 8 天前AI 评分66

Magnitude(YC S25)发布自优化推理引擎,支持一键连接现有 Agent

Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agents

AI 导读

Magnitude 是 YC S25 孵化的开源推理引擎,可在设备上编译和调优内核,针对实际硬件进行优化。相比 llama.cpp 提速最高 2 倍(Metal 92%,CUDA 19%),内存减少 27%,支持 Apple Silicon、NVIDIA、AMD 或纯 CPU。

来源:Hacker News · 首页 · github.com