跳到正文
MIT Technology Review · AI· Tim Rausch·· 4 小时前AI 评分57

AI推理为何产生隐藏存储成本

AI’s hidden storage bill: What inference leaves behind

AI 导读

WD认为,持续运行的AI推理会不断累积提示词、日志、缓存、渲染结果和备份,使存储成为AI基础设施中常被低估的成本。WD内部测量显示,8秒的720p AI视频对用户输出为3.97MB,但后端关联数据超过500MB,达到输出文件的130倍。

来源:MIT Technology Review · AI · technologyreview.com