Hacker News· anemll·· 22 天前AI 评分52
Qwen3.8-27B 在 iPhone 18 神经引擎上以 1.5 bpw 实现 15–70 tok/s
Qwen3.8-27B on the iPhone 18 Neural Engine at 15–70 tok/s (1.5 bpw)
AI 摘要
anemll 称 Qwen3.8-27B 已能在 iPhone 18 的 Neural Engine 上运行,速度达 15–70 tok/s。其量化精度为 1.5 bpw,但原文未给出具体测试条件、实现路线或代码是否公开。该帖在 Hacker News 上获得 12 分、2 条评论,正文仅有链接,缺少可复现细节。
来源:Hacker News · twitter.com
00