推理引擎走向定制化：专用引擎将取代通用方案

针对特定模型/硬件组合优化的“一次性”推理引擎正在快速涌现，如 ninfer、Splash、llamAmpere 等，因专注单一场景可深度优化内核和计算图，token 生成速度超越通用引擎 llama.cpp 和 vLLM。