跳到正文
原文
Reddit · r/LocalLLaMA· /u/External-Accident-63·· 2 天前AI 评分10

团队提出用 LoRA 适配器充当 LLM 可切换技能,想验证这是否值得做成产品

Would you use LoRAs as persistent, switchable skills instead of relying entirely on context/RAG?

AI 导读

一个团队正在验证一个想法:把 LoRA 适配器当作 LLM 的持久化、可切换的专用技能,按需加载或卸载,以减少上下文占用、复用专项能力并可能降低推理成本。他们希望 LoRA 的创建与管理能像维护知识库一样简单,并询问用户是否会在实际场景中使用该方案,以及该思路在哪些场景下不适用。

来源:Reddit · r/LocalLLaMA · reddit.com