#端侧
跨栏目找相关项:同一话题的工具、提示词、论文,可能横跨数天甚至数月才凑齐。
#端侧
今日 0 条研究 · 工具·提示词·论文 三栏速览
每栏 6 / 6 · 直达分类页查看全部
提示词
6 条当用户的某个意图（如last_intent）尚未处理完成时，自动提示用户并继续处理该业务。
写作cloud.baidu.com为电商平台机器人客服提供开场白、常见问题回复和结束语的话术模板参考。
写作insight.xiaoduoai.com智能客服机器人与访客互动的对话模板（欢迎新访客、欢迎回头客、显示常见问题等）。
写作zhuanlan.zhihu.com服装加工合同模板，含甲乙双方信息及加工委托条款
写作xiaobaogong.com用于合同审查场景，让大模型扮演特定行业、特定立场的合同审查专家，平衡利益与风险。
研究blog.csdn.net帮助分析患者症状，提供可能的诊断方向和建议，适用于初步诊断筛查。
研究cgwgpts.com
论文
6 条Reddit · r/LocalLLaMAAI 评分2121 如何在迷你 PC 上运行本地 LLM 语音助手——最佳小型 LLM 推荐
用户计划在无风扇迷你 PC（Celeron J6412 四核、16GB DDR4、Intel UHD 集成显卡）上构建离线语音助手，使用 Ubuntu 24.04 + llama.cpp + Python。寻求能在弱 CPU 上保持强人设且回复简洁的小型 LLM，以及可实时响应的语音转文字模型。
Reddit · r/LocalLLaMAAI 评分5151 在 Bonsai 2 27B 上应用 −2 logit bias：MATH-500 得分 44/50 → 43/50，tokens 增加 3%
作者测试了在 Bonsai 2 27B（PTQ1_0，5.53 GiB）模型上应用 −2 logit bias 对 "wait"、"maybe"、"perhaps" 等词的效果。
Reddit · r/MachineLearningAI 评分3535 Jev 与 Laya 置信度评分模型基准测试
作者对 TypeSafe AI 托管的 Jev 1.13.0 和开源的 Laya 两款小规模置信度评分分类模型进行了评估。Jev 的 ECE 为 0.013，Laya 为 0.486；通过将 AML 标签描述从意图改为交易特征，准确率从 65% 提升至 77%。结果表明校准质量决定阈值策略效果：Jev 在 90% 置信度阈值下准确率从 92.3% 提升至 97.6%，覆盖 82% 案例。
Reddit · r/LocalLLaMAAI 评分2525 如何深入学习本地大模型微调：Qwen 27b 案例指南
用户在 Reddit r/LocalLLaMA 社区询问系统学习本地模型微调技术的途径，目标是用自定义语料库微调 Qwen 27b 构建法律通用聊天机器人。帖子提及 RL、RL LoRA、QLoRA、CPT LoRA 等新技术，但发现 YouTube 教程质量参差不平，知名频道 fireship、bycloud 也未覆盖这些新概念，希望能找到实践性强且避免浪费金钱和时间的学习资源。
Reddit · r/MachineLearningAI 评分4242 OpenTrainDNN：基于浏览器的实时神经网络可视化工具
OpenTrainDNN 是一款开源的客户端 Web 应用，可实时可视化深度神经网络的训练过程。该工具无需后端服务器、专业硬件驱动或本地安装，即可直接观察反向传播、激活流和权重更新的每一步动态。
Hacker News · 首页AI 评分3232 MicroLLM Lab：在浏览器中测试 7 个小模型
MicroLLM Lab 是一个浏览器端的开源基准测试工具，可运行 7 个 tiny LLM（135M 参数起）的推理速度和准确率测试。用户选择模型后即可运行，测试数据保留在本地设备上。工具支持用 JavaScript 编写自定义检查函数来验证模型输出。