MIT Technology Review · AI· Tim Rausch·· 3 小时前AI 评分29
AI 推理的隐性存储成本:模型响应后留下的数据负担
AI’s hidden storage bill: What inference leaves behind
AI 导读
AI 推理产生的日志、缓存、渲染和备份会持续推高企业数据存储成本。WD 测得一段 8 秒 720p 视频输出文件为 3.97MB,但后端关联数据超过 500MB,达到文件大小的 130 倍。WD 赞助的 IDC 调查还显示,近 95% 的受访者称过去 12 个月生成式 AI 导致数据量增加,96% 预计需要更快的归档检索以支持推理或 RAG。
来源:MIT Technology Review · AI · technologyreview.com