Codync 发布：一款开源免费的本地 AI Agent 运行工具
Codync 是一个开源免费的 AI 工具，可让用户在本地电脑上运行 Claude Code、Codex、Cursor 或 40 多个 AI agent 作为命名机器人，并通过 iPhone、Mac、Linux 或终端进行远程回复和审批。采用 MIT 许可证，支持端到端加密。
推荐理由：原文给出了核心能力（开源免费、多 agent 支持、远程控制），读者可以据此判断它作为本地 AI agent 管理工具的使用方式和迁移成本。
端侧 AI
全部主题跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
最新精选
第 1–9 条 · 共 9 条Product Hunt · AI 分类精选AI 评分6060
Reddit · r/LocalLLaMA精选AI 评分7676 Oído：可在 5 美元微控制器上运行的语音识别模型，击败 Whisper-tiny
Lokutor 团队发布 Oído 语音识别模型，基于 NVIDIA Conformer-CTC Small（1300 万参数，int8），可在 ESP32-S3（8 MB PSRAM）上运行，无需 GPU 或 NPU。
推荐理由：原文给出了在 ESP32-S3 微控制器上的 WER 对比数据，读者可以据此判断它是否能替代 Whisper-tiny 满足端侧需求。
Product Hunt · AI 分类精选AI 评分6767 Codex Remote：开源 Mac 菜单栏应用让用户在自己的云端运行 AI 智能体
Codex Remote 是一个开源的 Mac 菜单栏应用，可将 Codex 和 Claude Code 部署到用户自己控制的云机器上。用户选择提供商和服务器规格后，应用会使用 OpenTofu 置备服务器、安装智能体并连接到已有应用。
推荐理由：原文说明了如何把 AI 智能体部署到用户自己控制的云端，并给出了具体的功能组合方式，读者可以据此判断它是否适合自己的工作流。
Hugging Face Blog精选AI 评分6666 Hugging Face transformers 现在支持直接运行 llama.cpp 量化模型
Hugging Face 宣布 transformers 库新增 GGUF 格式支持，用户可通过 from_pretrained 直接加载 GGUF 模型在本地运行。
推荐理由：原文给出了 GGUF 支持的具体能力、加载方式和性能数据，读者可以据此判断它是否能满足自己的本地推理需求。
Hugging Face Blog精选AI 评分7575 Meta 发布 Muse Glimmer：30B 参数本地代理多模态模型
Meta 发布 Muse Glimmer，这是一款 30B 参数的多模态模型，从 Muse 蒸馏而来，采用 Apache 2.0 许可证开源，专为本地代理场景设计，支持图像、视频和代码处理。
推荐理由：原文给出了模型架构细节、benchmark 对比和工具链支持，读者可以了解这个 30B 参数的多模态模型在本地代理场景下的能力定位。
Berkeley AI Research精选AI 评分6565 K-Search：如何将数十年CUDA内核优化经验迁移到Apple Silicon
Berkeley和IBM研究团队将K-Search进化内核优化框架扩展支持MLX后端，开发了结构化的CUDA到MLX翻译层，将NVIDIA生态积累的CUDA优化知识迁移到Apple Silicon。实验在M1 Max 64GB上，Attention核达到原生MLX的0.97倍性能，Mamba SSM核预填充吞吐量达6751 tok/s，比社区mlx-lm实现快约20倍。
推荐理由：原文展示了K-Search如何将NVIDIA生态积累的CUDA内核优化知识迁移到Apple Silicon，在Attention和Mamba SSM两个核上分别达到接近专家水平和20倍加速，为非NVIDIA硬件的核优化提供了可参考的方法论。
Google Research精选AI 评分6868 Google 通过冻结多Token预测加速 Pixel 设备上的 Gemini Nano 模型
Google 宣布将 Multi-Token Prediction (MTP) 架构应用于现有的冻结 Gemini Nano v3 模型，在 Pixel 9/10 系列上实现 50% 以上加速。
推荐理由：原文给出了具体的技术架构细节、性能数据（50%+加速、130MB内存节省）和在 Pixel 设备上的实测效果，读者可以据此了解移动端推理优化的具体方法。
Google DeepMind精选AI 评分7575 Google DeepMind 发布 Gemma 4 12B：统一 encoder-free 多模态模型
Google DeepMind 发布 Gemma 4 12B，采用无编码器架构将视觉和音频输入直接整合到 LLM 主干，支持原生音频输入。性能接近更大的 26B MoE 模型，可在 16GB VRAM 的笔记本电脑上本地运行，已获 150 万次下载，发布于 Apache 2.0 许可证。
推荐理由：原文给出了架构变化（encoder-free）、性能对比（接近 26B MoE）、内存要求（16GB VRAM）和原生音频输入等具体信息，读者可以据此评估它与其他 Gemma 模型的定位差异。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 Gemma 4：字面意义上最强大的开源模型
Google DeepMind 正式发布 Gemma 4 系列开源模型，提供 E2B、E4B、26B MoE 和 31B Dense 四种规格。31B 版本在 Arena AI 文本排行榜位列第三，26B 排名第六，均超越参数量 20 倍于自身的模型。
推荐理由：原文给出了四个版本的具体定位和性能数据，读者可以据此判断 Gemma 4 是否适合自己的硬件条件和使用场景。