跳到正文
热点事件持续更新

Olla v0.1.0 开源 LLM 代理发布

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026-11-03,Reddit r/LocalLLaMA 出现 Olla v0.1.0 的发布消息。据该报道,Olla 是用 Go 编写的轻量开源 LLM 代理和负载均衡器,部署在应用与推理服务器之间,支持 Ollama、vLLM、SGLang、llama.cpp、LM Studio、MLX 等运行时,提供模型感知路由、优先级/轮询/最少连接负载均衡、健康检查与熔断,以及 OpenAI 和 Anthropic 兼容接口。目前公开信息仅来自这一篇发布帖,尚无后续报道披露采用情况、版本迭代或社区反馈。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. Reddit · r/LocalLLaMA
    Olla v0.1.0 发布:面向本地与自建推理的轻量开源 LLM 代理

    Olla 发布 v0.1.0,这是一个用 Go 编写的轻量开源 LLM 代理和负载均衡器,位于应用与推理服务器之间。它支持 Ollama、vLLM、SGLang、llama.cpp、LM Studio、MLX 等运行时,提供模型感知路由、优先级/轮询/最少连接负载均衡、健康检查与熔断,以及 OpenAI 和 Anthropic 兼容接口。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。