热点事件持续更新
Semantic Triage 用吸收马尔可夫链实现 <2ms 零 token 意图分流
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
2026 年 10 月 17 日,Reddit r/LocalLLaMA 上有作者发文介绍一套名为 Semantic Triage 的路由器,面向支持工单分流场景。该方案用 Absorbing Markov Chain(吸收马尔可夫链)替代朴素的余弦相似度,在 768 维嵌入空间中借助 60 个节点的领域流形在 GPU 上求解,可在不唤醒大语言模型(LLM)、不消耗 token 的前提下完成意图分流,延迟低于 2 毫秒。作者指出,朴素余弦路由容易被表层关键词误导,而吸收马尔可夫链能在嵌入空间中沿领域流形收敛到稳定状态,更适合复杂工单的语义路由。目前仅有这一篇 Reddit 帖子披露该方法的设计思路与性能数字,尚未见后续报道对其数字、延迟或节点规模等细节进行修正或扩展,早期与后续报道之间也暂未出现矛盾。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月17日
- Reddit · r/LocalLLaMA为什么朴素余弦路由会失效：用 Absorbing Markov Chain 在 768D 嵌入空间做 <2ms 零 token 意图分流（再唤醒 LLM）
一套名为 Semantic Triage 的路由器在支持工单分流场景中用 Absorbing Markov Chain 替代朴素余弦相似度，通过 60 节点领域流形在 GPU 上求解以避免被表层关键词误导。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。