LLM Inference Dashboard：本地 LLM 推理资源监控工具

开发者正在构建一个轻量级（64mb）的本地 LLM 推理资源仪表板，支持 llama、strata、custom cuda engines、unsloth、LMS 等多种推理引擎，提供比默认 API 端点更丰富的日志和指标。该工具通过 collector 扩展网络 API 端点，目前尚未公开发布，作者在 Reddit 社区调研潜在用户兴趣。