跳到正文
原文
Reddit · r/LocalLLaMA· /u/Polstick1971·· 2 小时前AI 评分8

寻找实测过 Chutes、VoltageGPU、GCP 上 attested 机密 GPU 私有推理部署经验的从业者

Has anyone actually deployed private AI inference on an attested confidential GPU? (Chutes, VoltageGPU, GCP)

AI 导读

一位 MacBook Air M4 用户计划远程跑 Kandinsky 6.0 Pro 等开源视频模型,要求端到端验证 CPU/GPU 机密计算模式、推理负载身份以及密钥归属,避免云厂商读取明文提示词或视频。

来源:Reddit · r/LocalLLaMA · reddit.com