跳到正文
AWS Machine Learning Blog· Joseph Cottingham·· 2 天前精选AI 评分71

AWS SageMaker AI 教程:用实测数据为 Kokoro-82M 配置自动扩缩容

Stop guessing auto scaling targets for TTS on Amazon SageMaker AI

AI 导读

AWS Machine Learning Blog 演示如何在 Amazon SageMaker AI 实时端点部署 Kokoro-82M,并依据端点实测的单实例并发上限 Q_max 和扩容总时间 T_total 推导自动扩缩容阈值与冷却时间。

来源:AWS Machine Learning Blog · aws.amazon.com