跳到正文
热点事件持续更新

Phancy与RiseUnion联合开源LLM部署平台ModelSphere

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月17日,据Reddit r/artificial报道,Phancy Group与RiseUnion在GitHub以Apache 2.0协议开源了面向生产环境的大语言模型部署平台ModelSphere。该平台基于Kubernetes、Helm、SGLang与vLLM构建,针对混合GPU集群场景设计,主要特性包括自动扩缩容、缓存感知的请求路由、共享KV cache、多类加速卡支持,以及在中断后恢复进行中的生成任务。目前该报道为该事件的最新进展,尚未出现与之矛盾或更新的后续报道。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月17日
  1. Reddit · r/artificial
    ModelSphere 开源发布:面向混合 GPU 集群的大语言模型部署平台

    Phancy Group 与 RiseUnion 在 GitHub 以 Apache 2.0 协议开源了面向生产环境的大语言模型部署平台 ModelSphere,基于 Kubernetes、Helm、SGLang 与 vLLM 构建,支持自动扩缩容、缓存感知的请求路由、共享 KV cache、多类加速卡以及中断后恢复进行中的生成任务。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。