跳到正文
热点事件持续更新

AWS 介绍 Bedrock 上的智能体提示缓存

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AWS 介绍了在 Amazon Bedrock 上为 OpenAI 模型配置智能体提示缓存的方法,用于复用请求中稳定的工具、指令和对话内容。可缓存的前缀至少要有 1,024 个 token;缓存至少保留 30 分钟,成功复用会刷新有效期,但缓存也可能保留更久。缓存写入按正常输入价格的 1.25 倍收费。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AWS Machine Learning Blog精选
    AWS 讲解在 Amazon Bedrock 上为 OpenAI 模型使用提示缓存的智能体模式

    AWS Machine Learning Blog 介绍了如何在 Amazon Bedrock 上为 OpenAI 模型配置提示缓存,以复用 AI 智能体请求中稳定的工具、指令和对话内容。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。