Reddit · r/LocalLLaMA· /u/Gailenstorm·· 2 小时前AI 评分30
NuMind 为 vLLM 推出免费多模态嵌入向量插件，利用 LLM 隐藏状态生成文本/图像嵌入
A "free" multi-modal "embedding" model (already) included with your LLM: vLLM plugin + upstream PR
AI 导读
NuMind 发布一个 Apache-2.0 开源的 vLLM 插件，通过在 chat API 中返回最后一个 decoder 层的隐藏状态向量，让已加载的 LLM 直接生成文本/图像嵌入向量。
来源：Reddit · r/LocalLLaMA · reddit.com