Reddit · r/LocalLLaMA· /u/l0g1cs·· 2 小时前AI 评分34
Graphsignal 开源推理 GPU 性能分析工具新增 graphsignal-top，实时展示按耗时排序的 kernel 名称
graphsignal-top: a `top` for inference GPUs in the open-source Graphsignal profiler, kernels ranked by time, live, with readable names
AI 导读
开源 Graphsignal 性能分析工具新增 graphsignal-top 命令，作为面向推理 GPU 的 top 工具，可在每块 GPU 上实时展示利用率、显存、功耗、throttling、运行/等待请求数、tok/s 与 TTFT/TPOT 的 p50/p95，以及按近 5 秒耗时排序的 kernel 名称与分类。
来源：Reddit · r/LocalLLaMA · reddit.com