跳到正文
原文
Reddit · r/LocalLLaMA· /u/Stitch10925·· 53 分钟前AI 评分12

有人在 16GB 显存上跑本地 AI 智能体吗?求配置与模型经验

Anyone running local AI on 16GB vram?

AI 导读

一位用户询问是否有人在 16GB 显存上成功运行本地 AI 智能体,目标是搭建日常任务助手、研究智能体和开发智能体。他已试过 Goose、Hermes Agent 和 OpenCode,但未获得实用效果,不确定问题出在技能、工具、harness 还是模型调优。他向有类似成功经验者征询用例、配置、所用模型和具体调整方法。

来源:Reddit · r/LocalLLaMA · reddit.com