在 48GB Ampere GPU (A40) 上运行 QFN 的配置咨询

用户在 Reddit r/LocalLLaMA 询问 A40 GPU（48GB VRAM，128GB DDR3 系统内存）上运行 QFN 的良好配置。当前系统运行 27B 模型，希望通过 QFN 获得更好速度或更强智能。暂无具体配置方案提供。