Reddit · r/LocalLLaMA· /u/hereforcheesee·· 2 小时前AI 评分10
用 5070 Ti 拼 3070 跑本地 LLM:Qwen 3.6 35B-A3B 双卡异构实测
My 5070 ti/3070 Chimera build.
AI 导读
一位用户用 RTX 5070 Ti 外接 PCIe riser 上的 RTX 3070 搭建异构双卡方案,通过 Ollama/llama.cpp 的 layer splitting 跑 Qwen 3.6 35B-A3B(MoE,约 3B 激活参数),达成约 82 tok/s 与 16k 上下文。
来源:Reddit · r/LocalLLaMA · reddit.com