Reddit · r/LocalLLaMA· /u/recent_immunization·· 2 天前AI 评分18
为本地 LLM 探索去中心化的共享上下文方案
Working on a way for local LLMs to share context without centralizing everything
AI 导读
有开发者正在试验一种小型可移植的上下文层,让有用的事实或决策能在多个本地 LLM 环境之间迁移,而无需搬运整个底层数据集,也不必引入中心化服务。项目仍处早期,团队正在讨论来源追溯、权限、上下文过期以及模型可记忆范围等问题。他们同时向社区提问:跨多台机器或团队使用本地模型时,目前如何共享上下文,以及是否真的希望模型之间共享记忆。
来源:Reddit · r/LocalLLaMA · reddit.com