zzpanic 发布 vllm-radiance 单卡 R9700 运行 qwen3.8-27b 最终修订版

zzpanic 发布了 vllm-radiance 针对单卡 R9700 GPU 运行 qwen3.8-27b 的最终修订版。该修订主要改进了启动缓存机制，避免每次重启时重新编译，同时提供了可用的 vram-sysram-disk 卸载以及内存瘦身的 kv-offload 功能。这些改进使得在单卡 R9700 上进行长上下文多智能体任务成为可能。截至目前，这是该项目在该方向上的最终修订版本。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。