Reddit · r/artificial· /u/WillfullyWorkable·· 4 小时前AI 评分22
大厂AI效率竞赛:AWS、OpenAI、Google 都在让算力更省
Fewer tokens? Anyone else noticing the big dogs’ AI efficiency push?
AI 导读
大AI公司正加大力度提升算力效率:AWS 让 Trainium 芯片和服务器更节能,OpenAI 力推 mini/nano 小模型承接日常任务,Google 的 TurboQuant 研究压缩缓存上下文所需内存。发帖者认为,持续运行 AI 时每请求的小幅节省会累积成更高利润和更便宜的产品,但也疑问整体算力消耗是否真会下降,还是更便宜的 AI 只会让人跑得更多。
来源:Reddit · r/artificial · reddit.com