Hacker News · 首页· anemll·· 3 小时前AI 评分11
千问 Qwen3.8-27B 在 iPhone 18 Neural Engine 上以 1.5 bpw 跑出 15–70 tok/s
Qwen3.8-27B on the iPhone 18 Neural Engine at 15–70 tok/s (1.5 bpw)
AI 导读
Qwen3.8-27B 模型在 iPhone 18 的 Neural Engine 上以 1.5 bpw 量化部署，生成速度达到 15–70 tok/s。该成果由 Hacker News 用户分享，原文仅给出项目链接与社区讨论，未提供更多实现细节。
来源：Hacker News · 首页 · twitter.com