跳到正文

#部署/工程

今日 6 条

工具·提示词·论文 三栏速览

每栏 6 / 6 · 直达分类页

工具

6 条
查看全部

提示词

6 条
查看全部

论文

6 条
查看全部
9月30日周三
9月29日周二
  1. Hacker News · 首页55

    Jeeves:基于 Qwen3.5-9B 的推理决策模型

    Jeeves 是基于 Qwen3.5-9B 的决策模型,使用 SFT 和 CISPO 训练,配备块-4 扩散起草器。在 MMLU 上达到 0.793,MMLU-Pro 达到 0.739。通过扩散起草器实现 1.6-1.76 倍推理加速,批处理时可达约 960 链 token/秒。模型现已开源,提供完整的训练和推理代码。

  2. MIT Technology Review · AI49

    企业AI如何从成本中心转向战略资产

    当AI从实验阶段进入稳定生产阶段,按需付费模式的成本变得难以预测,企业需要重新评估AI的经济模型。Deloitte 2026年AI报告显示,2025年员工使用AI比例增长5%,40%以上AI项目进入生产的公司比例预计6个月内翻倍。文章建议企业评估三个关键问题:需求是否足够稳定可预测、何时拥有容量比按请求购买更经济、能否通过采纳和治理保持产能高效使用。

  3. Reddit · r/LocalLLaMA34

    50B+ 总参数 MoE 模型:智能、Agent 速度与可负担微调的权衡探讨

    用户正在构建波兰法律领域通用模型,工作流为工具密集型(问题→顺序工具调用→最终文档),关注 50B+ 总参数、活跃参数较少的 MoE 架构能否在保持低延迟的同时提升推理和工具调用可靠性。已使用 27B Qwen 3.8 dense 模型做法律文档摘要和分类,现寻求该规模/架构的实际配置经验,包括模型选择、量化、GPU 配置、服务引擎、实测延迟及 LoRA 微调可行性。

  4. Product Hunt · AI 分类48

    ShipHappens: Mac 原生应用助力开发者完成后端开发工作

    ShipHappens 是一款面向开发者的 Mac 原生应用,聚焦代码完成后的应用发布流程,支持 39 种语言的应用商店商品列表、基于 Apple 搜索数据的关键词评分、截图管理、TestFlight 构建和评论追踪。该应用将 App Store Connect key 存储在 Keychain 中保障安全,并支持集成任何 AI provider 或本地模型。

9月28日周一
  1. Mistral AI70

    Mistral 在慕尼黑设立德国中心,专注工业 AI 与物理 AI

    Mistral 在慕尼黑开设新中心,专注 Physics AI 和 Industrial AI 研发。中心将与 BMW 合作汽车碰撞模拟,与 Siemens Energy 合作工业 AI 应用,并与慕尼黑工业大学(TUM)共建风洞数字孪生研究。公司计划到 2030 年在欧洲建立 1 吉瓦计算能力,强调开放权重架构保障数据主权——模型权重完全开放给客户,在客户自有基础设施上运行,数据不离开组织。

    推荐理由:Mistral 明确提出了在欧洲建立主权 AI 基础设施的完整路径:开放权重架构 + 客户自有基础设施 + 欧洲法律合规,并给出了 1 吉瓦计算容量的具体目标和合作案例,读者可以据此评估其与封闭系统的差异。

9月27日周日
  1. Reddit · r/MachineLearning59

    InternLM 团队发布 Intern-Decision 多模态模型系列

    发布了 Intern-Decision 多模态模型系列(0.8B、2B、4B),其中 4B 模型在性能上优于 Jev 1.13.0。在 RTX 4090 上实测本地部署可达到约 30 FPS 的决策调用速度。团队还建立了基准测试来评估校准性能,在掷骰子和蒙特霍尔问题等经典概率场景中,该模型的预测分布比 Jev 更接近黄金分布。

9月26日周六
  1. AWS Machine Learning Blog60

    在 AWS SageMaker HyperPod 上使用 SkyRL 加速多模态 RL 训练

    本文详细介绍了在 Amazon SageMaker HyperPod 上使用开源 SkyRL 框架训练多模态强化学习模型的全流程,包括构建容器镜像、从 SageMaker Studio 启动 Ray 集群、提交训练任务、监控进度以及托管推理服务。

    推荐理由:给出了完整的操作流程和实验数据,读者可以据此在 SageMaker HyperPod 上复现多模态 RL 训练。

9月25日周五
  1. AWS Machine Learning Blog60

    Amazon SageMaker HyperPod 联合 Qumulo 实现跨区域训练:架构与性能验证

    AWS 与 Qumulo 合作推出跨区域训练方案,允许计算节点和数据存储分属不同 AWS Region,通过 Qumulo Cloud Data Fabric 和 NeuralCache 预测缓存实现跨区域数据访问。

    推荐理由:原文给出了跨区域训练的具体配置步骤和性能数据,读者可以据此评估是否采用 Qumulo+HyperPod 方案替代数据复制。

  2. GitHub Blog · AI & ML67

    GitHub Security Lab 发布 Taskflow Agent:实现 AI 驱动的自动化模糊测试

    GitHub Security Lab 发布 Fuzzing Taskflow,这是一个基于 LLM Agent 的 C/C++ 项目自动化模糊测试管道。只需指定一个 GitHub 仓库,Agent 会自动完成入口点识别、构建系统分析、模糊测试用例生成、AFL++ 运行、覆盖率分析、用例优化和漏洞报告编写。

    推荐理由:原文详细给出了自动化模糊测试的完整工作流程,包括覆盖率反馈循环、结构感知变异和语料库演进等具体机制,读者可据此迁移到自己的安全测试中。

9月24日周四
  1. Product Hunt · AI 分类38

    ZooWork: 构建与部署AI智能体平台

    ZooWork是一个帮助用户构建、部署和交付AI智能体的平台。专家用户可通过Builder UI界面创建AI智能体,开发者则使用Managed Agent API进行部署。该平台旨在将专业知识转化为面向实际业务运营的AI解决方案。

9月23日周三
9月22日周二
  1. Hugging Face Blog66

    oMLX 创建者 Jun Kim 加入 Hugging Face,继续支持 MLX 社区

    oMLX 创建者和维护者 Jun Kim 正式加入 Hugging Face,将全职投入 MLX 生态系统开发。oMLX 保持 Apache 2.0 开源协议,Jun 继续担任项目负责人。Hugging Face 表示计划将 oMLX 作为新想法的试验田,并推动将 transformers 模型定义快速迁移到 MLX 实现,以促进新模型在 MLX 上的运行。

    推荐理由:oMLX维护者从兼职转向全职,Hugging Face明确表示会加大投入,读者可据此判断MLX生态的发展速度可能加快。

  2. NVIDIA Blog61

    NVIDIA 推动埃及及非洲 AI 生态系统进入生产规模

    NVIDIA 在埃及举办活动展示当地快速增长的 AI 生态,包括开发者、创业公司和企业的应用。埃及的 Deep Learning Institute 学员基数一年增长超十倍。

    推荐理由:原文提供了非洲AI基础设施的多个具体建设进展和投资数字,读者可以据此了解非洲AI生态的现状与增长空间。

9月20日周日
9月16日周三
9月15日周二
  1. NVIDIA Blog31

    费城儿童医院如何用开源NVIDIA AI为先天性心脏病儿童建模心脏

    费城儿童医院(CHOP)基于NVIDIA开源医学影像框架MONAI,将过去需要4小时的心脏建模工作缩短至几秒。美国20多家儿童医院已开展心脏建模项目,波士顿儿童医院约50%的心脏手术(约每年500例)获建模支持。CHOP正结合NVIDIA Warp和Newton物理引擎,目标将模拟仿真引入临床工作流程,实现同日决策。

9月12日周六
9月11日周五
9月10日周四
9月8日周二
9月4日周五
9月1日周二
  1. Hugging Face Blog74

    Hugging Face 发布 @huggingface/kernels:207 个 WebGPU 内核支持本地 AI 推理

    Hugging Face 发布 WebGPU 内核库 @hugglingface/kernels,包含 207 个优化内核,可从 Hub 直接加载运行。性能对比测试显示,与 ORT WebGPU 相比,新内核在 Apple M4 GPU 上实现几何平均 2.57 倍提速、中位数 1.90 倍提速,部分操作如 bilinear Einsum 提速超过 10000 倍。

    推荐理由:原文给出了 207 个内核的性能对比数据(2.57x 几何平均提速),读者可以据此判断这个底层工具对自己浏览器端 AI 推理工作流的价值。

8月25日周二
  1. Mistral AI65

    Mistral 与 HUMAIN 达成战略合作,推动沙特及中东地区主权 AI 发展

    Mistral 与 HUMAIN 宣布战略合作,合作金额达数亿欧元。双方将在 AI 基础设施、先进模型开发和 AI 解决方案部署方面合作,初始重点领域包括网络安全和语音,并计划开发在阿拉伯语方面表现优异的前沿模型。合作旨在满足主权 AI 需求,确保数据、推理和运营在客户控制范围内,主要面向金融、制造、电信、网络安全和公共部门等受监管行业。

    推荐理由:这是 AI 基础设施和主权 AI 领域的跨国合作案例,读者可以据此了解欧洲 AI 公司在中东的布局策略和主权 AI 的具体落地模式。