跳到正文
原文
MIT Technology Review · AI· Tim Rausch·· 3 小时前AI 评分29

AI 推理的隐性存储成本:模型响应后留下的数据负担

AI’s hidden storage bill: What inference leaves behind

AI 导读

AI 推理产生的日志、缓存、渲染和备份会持续推高企业数据存储成本。WD 测得一段 8 秒 720p 视频输出文件为 3.97MB,但后端关联数据超过 500MB,达到文件大小的 130 倍。WD 赞助的 IDC 调查还显示,近 95% 的受访者称过去 12 个月生成式 AI 导致数据量增加,96% 预计需要更快的归档检索以支持推理或 RAG。

来源:MIT Technology Review · AI · technologyreview.com