跳到正文
原文
Reddit · r/LocalLLaMA· /u/Past-Town-9807·· 2 小时前AI 评分18

本地运行 Qwen3.8FN 的 Drax 智能体比云端更便宜

My local Qwen3.8FN agent is significantly cheaper than cloud

AI 导读

作者用一台 NVIDIA Tesla P40(24 GB)+ Xeon Silver 机器本地运行 Qwen3.8FN Q4,自建名为 Drax 的智能体可获得约 130k 上下文,prompt cache 利用率超过 90%。

来源:Reddit · r/LocalLLaMA · reddit.com