AWS讲解Kokoro低延迟流式语音方案

2026年10月23日，AWS Machine Learning Blog发布教程，讲解在Amazon SageMaker AI上部署托管Kokoro-82M，并结合Amazon Bedrock AgentCore逐句生成语音，使合成在完整回答生成完毕前启动。实测首个音频字节的平均等待时间由329.3毫秒降至156.7毫秒；完整智能体中，双向流式模式的首音频速度为批处理模式的2.4至3.5倍。教程还比较了SSE携带Base64音频与双向流复用二进制的方案，前者载荷增加约33%。构建需Python 3.12或更高版本、uv和Docker；示例容器固定了存在已知安全公告PYSEC-2026-2286的旧版PyTorch，官方要求在非概念验证使用前审查并升级至2.10.0或更高版本。清理时不得清空共享模型权重缓存的S3存储桶，也不得删除可能由多个模型共享的ECR镜像仓库。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。