Reddit · r/LocalLLaMA· /u/inawhole·· 8 小时前AI 评分25
为什么朴素余弦路由会失效：用 Absorbing Markov Chain 在 768D 嵌入空间做 <2ms 零 token 意图分流（再唤醒 LLM）
Why naive cosine routing fails: Using Absorbing Markov Chains over a 768D embedding space for <2ms zero-token intent triage (before waking the LLM)
AI 导读
一套名为 Semantic Triage 的路由器在支持工单分流场景中用 Absorbing Markov Chain 替代朴素余弦相似度，通过 60 节点领域流形在 GPU 上求解以避免被表层关键词误导。
来源：Reddit · r/LocalLLaMA · reddit.com