跳到正文
AWS Machine Learning Blog· Joseph Cottingham·· 3 天前AI 评分36

别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值

Stop guessing auto scaling targets for TTS on Amazon SageMaker AI

AI 导读

针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标值靠猜的问题,该方案将 82M 参数的 Kokoro-82M 以自定义容器部署在实时端点上,用实测的单实例并发上限 Q_max 和端到端扩容耗时 T_total 通过算术推导出扩容阈值、缩容阈值与两个冷却时间。

来源:AWS Machine Learning Blog · aws.amazon.com