跳到正文
原文
Hacker News · 首页· Anon84·· 5 小时前AI 评分29

PS5LM:让越狱 PS5 在 GPU 上原生运行任意 GGUF 模型

Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

AI 导读

PS5LM 让越狱 PS5 通过 llama.cpp 的 Vulkan 后端调用 RDNA 2 GPU 与共享内存中 11.4 GB 空间,直接原生加载并服务任意 GGUF 模型,无需 PC 或云端。

来源:Hacker News · 首页 · github.com