跳到正文
原文
Reddit · r/LocalLLaMA· /u/Low_Bad_6585·· 2 小时前AI 评分52

Slow Vale 上线 800 智能体持续城市,主用 DeepSeek Flash 保持每日 50 亿 token 推理

Running an LLM-driven town with 800+ persistent agents: concurrency, context caching, and inference costs

AI 导读

开发者独立打造的 LLM 驱动生活模拟游戏 Slow Vale 中文服已上线 800 多个 AI 居民共享同一座城市,单日约 50 亿 token、模型费用低于 100 美元,并维持 90% 以上的缓存命中率。

来源:Reddit · r/LocalLLaMA · reddit.com