AWS Machine Learning Blog· Joseph Cottingham·· 2 天前精选AI 评分71
AWS SageMaker AI 教程:用实测数据为 Kokoro-82M 配置自动扩缩容
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
AWS Machine Learning Blog 演示如何在 Amazon SageMaker AI 实时端点部署 Kokoro-82M,并依据端点实测的单实例并发上限 Q_max 和扩容总时间 T_total 推导自动扩缩容阈值与冷却时间。
来源:AWS Machine Learning Blog · aws.amazon.com