Reddit · r/LocalLLaMA· /u/Past-Town-9807·· 2 小时前AI 评分18
本地运行 Qwen3.8FN 的 Drax 智能体比云端更便宜
My local Qwen3.8FN agent is significantly cheaper than cloud
AI 导读
作者用一台 NVIDIA Tesla P40(24 GB)+ Xeon Silver 机器本地运行 Qwen3.8FN Q4,自建名为 Drax 的智能体可获得约 130k 上下文,prompt cache 利用率超过 90%。
来源:Reddit · r/LocalLLaMA · reddit.com