跳到正文
原文
Hacker News · 首页· gmays·· 5 小时前AI 评分56

Cerebras 讲解如何通过 WSE-3T 部署万亿参数模型

Cerebras Deploys Trillion-Parameter AI Models

AI 导读

Cerebras 介绍如何将万亿参数前沿模型拆分到多块 WSE-3T 晶圆,并以约 3T 参数的开源模型 Kimi K3 为例,实现 1000-2000+ tokens per second 的运行速度。

来源:Hacker News · 首页 · cerebras.ai