Reddit · r/LocalLLaMA· /u/jacek2023·· 6 天前AI 评分33
llama.cpp 服务器新增 /v1/systemone API 支持多模型
llama, server: add /v1/systemone API (models: laya, julia-1, lev, openjev, kev) by ngxson · Pull Request #29818 · ggml-org/llama.cpp
AI 导读
llama.cpp 在 Pull Request #29818 中新增 /v1/systemone API 端点。该 API 支持 laya、julia-1、lev、openjev、kev 等多个模型。目前该 PR 已提交，正在等待审核。
来源：Reddit · r/LocalLLaMA · reddit.com