AWS实测配置SageMaker自动扩缩容

2026年10月23日，AWS Machine Learning Blog发布Joseph Cottingham的教程，演示如何通过Amazon SageMaker AI上Kokoro-82M实时端点的实测指标配置自动扩缩容。实测在ml.g5.xlarge实例上得到并发上限Q_max为50、扩容总时长T_total约320秒，并据此生成扩容阈值37.5、缩容阈值25及冷却时间30秒和960秒的策略。运行扩容测量前，服务配额须比基线至少多一个可用槽位；示例容器固定使用存在已知安全公告PYSEC-2026-2286的旧版PyTorch，该问题在torch 2.10.0中修复，非概念验证前应审查并升级。文中同时强调，这组四数模型、SLO、突发比例及测量结果并非TTS专属。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。