跳到正文

#Mistral

今日 0 条

数据 · 工具·提示词·论文 三栏速览

每栏 1 / 6 · 直达分类页
5月28日周四
  1. Mistral AI77

    Mistral AI 推出 Search Toolkit 公开预览版

    Mistral AI 发布了 Search Toolkit 公开预览版,这是一个用于构建 AI 应用生产搜索管道的可组合框架。该工具将数据摄入、检索和评估整合到单一框架中,支持 BM25 稀疏检索、密集向量检索和混合检索配置,内置 recall、precision、MRR、NDCG 等评估指标,开源且可在云端、本地或边缘运行。

    推荐理由:它将数据摄入、检索和评估整合到一个框架中,帮助团队把时间从集成维护转向搜索质量提升。

3月25日周三
  1. Google Research63

    Google发布TurboQuant:面向极端压缩的向量量化新算法

    Google Research发布TurboQuant、QJL和PolarQuant三种向量量化压缩算法,可在Gemma和Mistral模型上将KV cache内存降低至少6倍,同时保持模型性能不变。

    推荐理由:原文给出了6x内存降低和8x性能提升的具体数据,以及TurboQuant、QJL、PolarQuant三种算法的技术原理,读者可以据此了解向量量化技术的最新进展。