Reddit · r/LocalLLaMA· /u/Acceptable-Cycle4645·· 7 小时前AI 评分32
Drama3 集成至 audio.cpp:RTX 5090 上全速可达 5 倍实时,少于 8GB 显存时 2 倍实时
Drama3 in audio.cpp: Up to 5× faster than real time at full speed, or 2× real-time speed with < 8 GB of VRAM on an RTX 5090!
AI 导读
Drama3 模型已贡献至 audio.cpp 项目,在 RTX 5090 上以 CUDA full 模式(text chunk size 512)实现平均 0.195 的 RTF,对应约 5 倍实时生成速度,同时峰值显存约 26,990 MiB。
来源:Reddit · r/LocalLLaMA · reddit.com