跳到正文
原文
Hugging Face Blog·· 2026-09-01精选AI 评分74

Hugging Face 发布 @huggingface/kernels:207 个 WebGPU 内核支持本地 AI 推理

Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI

AI 导读

Hugging Face 发布 WebGPU 内核库 @hugglingface/kernels,包含 207 个优化内核,可从 Hub 直接加载运行。性能对比测试显示,与 ORT WebGPU 相比,新内核在 Apple M4 GPU 上实现几何平均 2.57 倍提速、中位数 1.90 倍提速,部分操作如 bilinear Einsum 提速超过 10000 倍。

推荐理由

原文给出了 207 个内核的性能对比数据(2.57x 几何平均提速),读者可以据此判断这个底层工具对自己浏览器端 AI 推理工作流的价值。

来源:Hugging Face Blog · huggingface.co