Latent Space· Basil Chatha·· 4 小时前AI 评分67
Modal CEO Erik Bernhardsson 解释 AI 算力合同为何呈矩形
Why AI Compute Comes in Rectangles — Erik Bernhardsson, Modal CEO
AI 导读
Modal CEO Erik Bernhardsson 指出，固定时长的 GPU 容量合同呈矩形，但 AI 工作负载会增长、出现峰值并回落，按峰值包量会浪费硬件，按低位采购又会错过需求。Modal通过汇聚数千客户需求来提供弹性容量，并以GPU缓冲区、自定义文件系统、进程检查点和GPU内存快照缩短环境启动时间。访谈还提到，其沙箱业务已约占收入的三分之一。
来源：Latent Space · latent.space