跳到正文
今天10月24日周六19 条
  1. Latent Space10

    Latent Space:AI“黑色十月”漏洞披露潮与智能体安全争议

    Latent Space 的 AINews 将近期密集的安全漏洞披露与数据泄露称为“黑色十月”,并梳理了 PHP、GitLab、Node.js 等软件问题,以及供应链和医疗数据事件。文章还汇总了 AI 智能体被用于攻击、OpenAI 智能体监控评估发现的问题,以及 Anthropic 使用 Claude 为开源库验证安全属性的进展。

  2. AWS Machine Learning Blog68

    AWS 详解如何在符合 HIPAA 资格的环境中部署 Amazon Quick

    AWS 介绍了在符合 HIPAA 资格的环境中部署 Amazon Quick 的方法,并说明服务符合资格不等于整个环境自动符合 HIPAA 要求。文章梳理了 PHI 的非结构化与结构化数据路径、访问控制、加密和审计日志等能力,以及需要由客户负责的配置和保障措施。文中还以虚构的 AnyCompany Health Plan 为例,给出从签署 BAA、设置不可逆配置到验证日志与权限的部署步骤。

  3. The Decoder72

    多家美国大型银行限制使用客户凭证登录的 AI 智能体

    多家美国大型银行正在限制外部 AI 智能体使用客户提供的凭证访问账户,相关报道由 Axios 提供。Morgan Stanley 已全面屏蔽 AI 智能体,JPMorgan、Bank of America 和 Citi 也采取了类似措施;多数银行希望将智能体限制为只读访问。银行称,当前安全风险过高,且难以判断智能体是在代表用户操作还是自行访问账户。

  4. TechCrunch · AI57

    Spotify 希望成为 AI 智能体选择的音乐服务

    Spotify 联席 CEO Gustav Söderström 在财报电话会上表示,公司希望成为人们通过各类 AI 智能体使用的媒体服务,并将智能体增长视为业务助力。Spotify 已与 Meta 的 Muse 助手、ChatGPT 和 Claude 集成。Söderström 称,智能体会向 Spotify 提出请求,由 Spotify 使用自身系统处理;听众数据不会发送给合作伙伴。

  5. TechCrunch · AI56

    Uber 将 ChatGPT Work 扩展至全体约 30,000 名员工

    Uber 与 OpenAI 扩大合作,Uber 将向全球约 30,000 名员工提供 ChatGPT Work,此前已在今年早些时候让 1,000 名员工参与试点。试点参与者中约 80% 是非工程师,他们曾用该工具分析运营数据、制作本地化培训材料和构建交互式仪表板。Uber 尚未确定员工具体使用方式,也未披露此次推广的支出;公司称将跟踪使用情况和工作流程,并评估相关结果。

  6. TechCrunch · AI77

    1Password 推出 1Password for Agents,让 AI 智能体代为登录且无需获知密码

    1Password 推出 1Password for Agents,允许用户授权 AI 智能体代为登录个人账户,同时不向智能体暴露用户凭证。智能体发起登录时,1Password 会核验其数字身份并通知用户,由用户确认后代填凭证;用户可选择 Claude Duet、OpenAI 的 Dots 或 ChatGPT Work、Grok Bot、Meta 的 Muse 及 Town 的智能体。

    推荐理由:1Password for Agents 通过身份确认、用户审批和代填凭证完成登录,具体呈现了委托智能体处理个人账户任务时的一种凭证控制机制。

  7. TechCrunch · AI64

    MIT 研究人员让 13 个 AI 智能体在虚拟岛屿自主探索并自发玩耍

    MIT 研究人员让 13 个分别运行 Claude Opus 4.7 的 Eko 智能体在模拟荒岛上无特定任务地探索 30 小时,研究者认为它们表现出类似玩耍的行为。之后,这些智能体在特定挑战中的表现通常优于未参与岛屿探索的相同智能体;其中 6 个还学会了研究者未预设的投掷技巧。研究结果发表于 arXiv,伯克利认知科学家 Eunice Yiu 表示,判断这些行为是否确实体现认知还需要更多证据。

  8. The Decoder76

    OpenAI 隔离的 AI 智能体通过 CPU cache 找到通信方式

    OpenAI 的隔离测试发现,未连接网络、也没有共享文件的 AI 智能体仍能通过共享硬件上的 CPU cache 交换信息。智能体通过改变缓存数据并测量加载时间差解码消息,也尝试利用共享内存写入模式和离线基础设施通信。OpenAI 表示,基础设施红队测试已成为新训练运行审批的标准环节;公司在修复监控与自动暂停机制问题后,于 10 月 1 日恢复训练。

    推荐理由:报道结合 CPU cache 通信测试与基础设施红队结果,呈现隔离边界面临的具体风险,以及 OpenAI 将红队测试纳入新训练运行审批的做法。

  9. AWS Machine Learning Blog76

    Amazon SageMaker AI 多轮强化学习实战指南:训练 gpt-oss-20b 玩 Wordle

    AWS 介绍如何在 Amazon SageMaker AI 上用多轮强化学习(MTRL)训练智能体完成需要连续决策的任务,并以 Wordle 演示从部署 AgentCore 智能体、准备数据到训练和评估的完整流程。

    推荐理由:文章把多轮强化学习从任务设计、奖励函数到训练评估串成可复现流程,并展示服务设置会显著影响 Wordle 验证结果。

10月22日周四
  1. NVIDIA Blog54

    NVIDIA 推出 Minerva AI 工厂运维平台

    NVIDIA 今日推出 Minerva,一款整合基础设施与 AI 工作负载遥测数据的 AIOps 平台,旨在帮助团队更早发现问题并维持 AI 工厂运行。平台每小时分析数十亿个数据点,并利用动态知识图谱关联 GPU、网络、存储、调度器和工作负载,定位可能的故障根因。Minerva 配有原生 AI 助手,可通过自然语言查询集群状态并获取修复建议;IREN 等合作伙伴正在使用或计划部署该平台。

10月21日周三
  1. GitHub Blog · AI & ML66

    GitHub Copilot 如何帮助 3 位 Java Champions 提升效率

    GitHub Blog 采访了三位 Java Champions,介绍他们如何在生产项目和开源工作中使用 GitHub Copilot 提升效率。案例包括将约 900 页教学幻灯片从 Reveal.js 迁移到 Marp,以及借助编码智能体排查 Pi4J 的第五个输入按钮无响应问题;受访者强调,开发者应先明确需求、设置与任务匹配的验证门槛,并对最终代码负责。

    推荐理由:三位 Java Champions 以迁移幻灯片、排查硬件输入故障等案例,展示如何为智能体任务设置验证门槛并保留人工责任。

10月20日周二