NVIDIA Blog· Vishal Ganeriwala·· 23 天前精选AI 评分63
NVIDIA 发布 DSX 平台优化 AI 工厂电力管理
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
AI 导读
NVIDIA 推出 DSX(Digital Spectrum eXchange)平台,旨在优化 AI 工厂的每兆瓦产出。Lambda 在 HGX B200 服务器上的验证显示,在相同电力预算下运行 19 个节点(85% 功率)相比 16 个节点(满功率)可实现 24% 的集群 token 吞吐量提升和 23% 的每瓦性能提升。
推荐理由
原文给出了具体性能数据(24% 吞吐量提升、23% 每瓦性能提升),这是 AI 工厂电力优化的真实验证结果,读者可据此评估其实用性。
来源:NVIDIA Blog · blogs.nvidia.com