Rescale 如何用 Strands Agents 和 AI-DLC 构建 AI 测试分流智能体
AWS 介绍了 Rescale 如何通过 AI-DLC 工作坊,在 5 天内将测试分流智能体部署到 staging,并在数周内投入生产。
技术方向
怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。
10 条精选近 30 天 10 条共收录 18 条
AWS 介绍了 Rescale 如何通过 AI-DLC 工作坊,在 5 天内将测试分流智能体部署到 staging,并在数周内投入生产。
AWS Machine Learning Blog 演示如何在 Amazon SageMaker AI 实时端点部署 Kokoro-82M,并依据端点实测的单实例并发上限 Q_max 和扩容总时间 T_total 推导自动扩缩容阈值与冷却时间。
AWS 介绍了如何将 AI 智能体逐句生成的文本实时发送到 Amazon SageMaker AI 上的 Kokoro-82M TTS 端点,使语音合成在完整回答生成前开始。
AWS 介绍了在符合 HIPAA 资格的环境中部署 Amazon Quick 的方法,并说明服务符合资格不等于整个环境自动符合 HIPAA 要求。文章梳理了 PHI 的非结构化与结构化数据路径、访问控制、加密和审计日志等能力,以及需要由客户负责的配置和保障措施。文中还以虚构的 AnyCompany Health Plan 为例,给出从签署 BAA、设置不可逆配置到验证日志与权限的部署步骤。
AWS 为 Amazon SageMaker AI 推出 training session APIs,用户可在本地 Python 代码中编写训练循环,由 SageMaker AI 在托管 GPU 上执行计算操作并管理相关基础设施。
Bayer Crop Science 介绍了基于 Amazon Bedrock AgentCore 构建和运营 Agentic Decision Engine(ADE)的过程,该系统为 Connected Decision Engine(CDE)提供自然语言交互层。
AWS 介绍了如何在 Amazon Quick Sight 图层地图中使用 GeoJSON 的 Point 和 LineString 几何类型展示地点与路线。文章说明了 GeoJSON 文件结构、与数据集的关联方式,以及图层地图点位与原生点地图的差异。文章还介绍了视口控制、叠加多种几何图层,以及通过 Amazon S3 和 Quick Sight APIs 更新 GeoJSON 的方法。
AWS 介绍如何在 Amazon SageMaker AI 上用多轮强化学习(MTRL)训练智能体完成需要连续决策的任务,并以 Wordle 演示从部署 AgentCore 智能体、准备数据到训练和评估的完整流程。
推荐理由:文章把多轮强化学习从任务设计、奖励函数到训练评估串成可复现流程,并展示服务设置会显著影响 Wordle 验证结果。
AWS Machine Learning Blog 介绍如何用可复用的 CDK 构造,在更新 SageMaker AI 实时端点时自动注销并重新注册自动扩缩容资源。方案以三个 CloudFormation 自定义资源和显式依赖顺序编排端点更新,并通过 ConfigHash 在配置变化时触发流程。文章还提供示例仓库、部署步骤,以及将构造集成到现有 CDK 堆栈的方法。
推荐理由:文章梳理了 SageMaker AI 端点更新与自动扩缩容资源之间的部署冲突,并给出可复用的 CDK 构造及集成步骤,便于参考其依赖编排方案。
NVIDIA称,哈萨克斯坦正从AI基础设施规划转向部署,相关公告涵盖算力建设、模型与应用发展。Firebird已获得45,000块NVIDIA Grace Blackwell GPU的美国出口许可,首期项目正在与Kazakhtelecom建设,目标于2027年第三季度商业上线;第二期计划将Firebird在哈萨克斯坦的潜在AI基础设施总容量提升至约500 megawatts。