跳到正文
原文
Reddit · r/LocalLLaMA· /u/feelspeaceman·· 3 小时前AI 评分54

DeepSeek 发布开源推理框架 DeepInfer

Deepseek released DeepInfer - Open Source high-performance, large-scale inference framework for DeepSeek models!

AI 导读

DeepSeek 发布开源高性能、大规模推理框架 DeepInfer,面向 DeepSeek 模型提供推理基础设施。当前材料仅包含标题,未提供功能、版本、适用规模或使用方式等细节。

来源:Reddit · r/LocalLLaMA · reddit.com