如何在双 A100 80GB 上榨出更多性能

一位用户在一台 EPYC 7402P 服务器上用两张 A100X PCIe 通过 llama.cpp 部署 Qwen3.8 Flash Next UD-Q4_K_XL，单用户推理约 50-70tk/s，但并发 2-3 用户时骤降至 10-15tk/s，因此发帖求助优化方案。