热点事件持续更新
Phancy与RiseUnion联合开源LLM部署平台ModelSphere
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月17日,据Reddit r/artificial报道,Phancy Group与RiseUnion在GitHub以Apache 2.0协议开源了面向生产环境的大语言模型部署平台ModelSphere。该平台基于Kubernetes、Helm、SGLang与vLLM构建,针对混合GPU集群场景设计,主要特性包括自动扩缩容、缓存感知的请求路由、共享KV cache、多类加速卡支持,以及在中断后恢复进行中的生成任务。目前该报道为该事件的最新进展,尚未出现与之矛盾或更新的后续报道。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月17日
- Reddit · r/artificialModelSphere 开源发布:面向混合 GPU 集群的大语言模型部署平台
Phancy Group 与 RiseUnion 在 GitHub 以 Apache 2.0 协议开源了面向生产环境的大语言模型部署平台 ModelSphere,基于 Kubernetes、Helm、SGLang 与 vLLM 构建,支持自动扩缩容、缓存感知的请求路由、共享 KV cache、多类加速卡以及中断后恢复进行中的生成任务。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。