Hacker News · 首页· sroussey·· 9 天前精选AI 评分85
Edge0 开源 145B 与 120B 端侧模型及推理框架
Edge0-145B: Frontier AI Capabilities on Your Own Computer
AI 导读
Edge0 开源 Edge0-145B 和 Edge0-120B 两个端侧模型,并同时发布统一推理框架与部署工具。官方称 145B 模型可在兼容笔记本本地运行,峰值内存 29GB、解码 80+ tokens/s、预填充 1100+ tokens/s,支持 128K–256K 上下文。
推荐理由
原文给出端侧 145B 模型的架构、推理栈与实测内存速度,可对照云端模型看本地部署的边界。
来源:Hacker News · 首页 · edge0.ai
最近 7 天的更新
- Thinking Machines 发布开源模型 Inkling 2 Mini,采用循环 Transformer 可在笔记本运行The Decoder·
- Google Duplex 如何演变为在 Gemini 中代用户致电商家Google Research·
- Thinking Machines Lab 发布 Inkling 2 Mini 本地多模态模型Hugging Face Blog·
- Thinking Machines 发布 Inkling 2 Mini 循环 Transformer 小模型Hacker News · 首页·
- 华为云发布昇腾原生具身世界模型CloudRobo-WM1.2,两项具身评测登顶并计划开源量子位 QbitAI·
- Amazon Bedrock AgentCore payments 支持智能体用 AWS 账单购买 AWS Marketplace 的 x402 产品AWS Machine Learning Blog·
- Amazon Bedrock AgentCore harness 升级为 Strands harness,新增内置工具与生命周期钩子AWS Machine Learning Blog·
- Google DeepMind 发布 Gemini 4 Neon,速度约为 Carbon 两倍且价格更低The Decoder·
相关工具
- OpenAI 发布 GPT-6.2 Astra 与 GPT-6.2 Sol90
- Google 发布 Gemini 4 Argon 前沿模型90
- Meta 发布 Muse Wonder 与 Muse Wonder Full 模型90
- Qwen 发布 Qwen4-Max 模型89
- Google DeepMind 发布 Gemini 4 Carbon 前沿模型89
- OpenAI 发布 GPT-6.2 Astra 与 GPT-6.2 Sol,API 价格下调并带来部分基准提升88
- Google 发布 Gemini 4 Hydrogen 模型88
- Anthropic 发布 Claude Fable 5.2 与 Mythos 5.288