跳到正文
原文
Reddit · r/LocalLLaMA· /u/StayLameBro·· 6 天前AI 评分66

我用 iPhone 给 MacBook 当第二 GPU:Qwen 3.8 27B 预填充提速 29–44%

I made my iPhone a second GPU for my 24 GB MacBook: Qwen 3.8 27B prefills 29–44% faster & my holds part of the CTX window.

AI 导读

作者用 USB-C 线将 iPhone 17 Pro Max 连接到 24 GB M4 Pro MacBook,让手机分担 Qwen 3.8 27B(IQ4_XS)模型的部分层计算和注意力计算。

来源:Reddit · r/LocalLLaMA · reddit.com