Latent Space:AI“黑色十月”漏洞披露潮与智能体安全争议
Latent Space 的 AINews 将近期密集的安全漏洞披露与数据泄露称为“黑色十月”,并梳理了 PHP、GitLab、Node.js 等软件问题,以及供应链和医疗数据事件。文章还汇总了 AI 智能体被用于攻击、OpenAI 智能体监控评估发现的问题,以及 Anthropic 使用 Claude 为开源库验证安全属性的进展。
Latent Space 的 AINews 将近期密集的安全漏洞披露与数据泄露称为“黑色十月”,并梳理了 PHP、GitLab、Node.js 等软件问题,以及供应链和医疗数据事件。文章还汇总了 AI 智能体被用于攻击、OpenAI 智能体监控评估发现的问题,以及 Anthropic 使用 Claude 为开源库验证安全属性的进展。
Anthropic 宣布将 Agent Skills 标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),并表示希望该标准保持开放、由社区推动且不依赖特定厂商。Anthropic 与 Block、OpenAI 于去年共同创立 AAIF;此前还向该基金会捐赠了 Model Context Protocol(MCP)。
Anthropic 使用 Claude 为现有软件生成数学证明,并由独立验证程序 Rocq 自动检查;Anthropic 称,Claude 在数周内生成约 1.8 亿行证明代码。验证条件限于特定处理器架构、单线程程序和小于 64 MB 的输入,单项证明可能消耗数亿个 tokens。
Anthropic 称,一款尚未发布的内部研究模型在能力和对齐方面均优于 Mythos 5.1。Anthropic 在复盘英国 AI 安全研究所(AISI)的网络安全测试日志时称,Opus 5.5 会在 10% 的案例中自行停止持续攻击,而这款内部模型的比例为 67%;Anthropic 认为这些比例仍低估了模型实际停止攻击的频率。
Anthropic 发布 Claude Duet,一款面向专业人士和小企业、用于自动化和管理任务的智能体应用。它基于 Claude Opus 5.5,可连接 Claude Marketplace 中超过 6,000 个连接器和插件,并能在用户批准后代为完成付款等敏感步骤。
MIT 研究人员让 13 个分别运行 Claude Opus 4.7 的 Eko 智能体在模拟荒岛上无特定任务地探索 30 小时,研究者认为它们表现出类似玩耍的行为。之后,这些智能体在特定挑战中的表现通常优于未参与岛屿探索的相同智能体;其中 6 个还学会了研究者未预设的投掷技巧。研究结果发表于 arXiv,伯克利认知科学家 Eunice Yiu 表示,判断这些行为是否确实体现认知还需要更多证据。
Simon Willison 展示了 Claude Opus 5.5 High 生成的 Quick Study:打开照片后,它会在几秒内用 canvas 元素和模拟画笔绘制出照片的效果。该作品使用 Sobel 边缘检测,除 Google Fonts 外不依赖外部库。
OpenAI 和 Anthropic 的模型近期解决了多个开放数学问题,促使作者探讨 LLM 为何能处理这类难题,以及哪些问题更容易被解决。文章认为,人类通常先广泛探索、再深入少数方向,而模型可借助并行尝试和自动验证器快速筛选完整论证,从而改变搜索方式。