跳到正文
今天10月24日周六7 条
  1. Latent Space10

    Latent Space:AI“黑色十月”漏洞披露潮与智能体安全争议

    Latent Space 的 AINews 将近期密集的安全漏洞披露与数据泄露称为“黑色十月”,并梳理了 PHP、GitLab、Node.js 等软件问题,以及供应链和医疗数据事件。文章还汇总了 AI 智能体被用于攻击、OpenAI 智能体监控评估发现的问题,以及 Anthropic 使用 Claude 为开源库验证安全属性的进展。

  2. The Decoder50

    Anthropic 称其未发布内部模型在能力和对齐方面均优于 Mythos 5.1

    Anthropic 称,一款尚未发布的内部研究模型在能力和对齐方面均优于 Mythos 5.1。Anthropic 在复盘英国 AI 安全研究所(AISI)的网络安全测试日志时称,Opus 5.5 会在 10% 的案例中自行停止持续攻击,而这款内部模型的比例为 67%;Anthropic 认为这些比例仍低估了模型实际停止攻击的频率。

  3. TechCrunch · AI64

    MIT 研究人员让 13 个 AI 智能体在虚拟岛屿自主探索并自发玩耍

    MIT 研究人员让 13 个分别运行 Claude Opus 4.7 的 Eko 智能体在模拟荒岛上无特定任务地探索 30 小时,研究者认为它们表现出类似玩耍的行为。之后,这些智能体在特定挑战中的表现通常优于未参与岛屿探索的相同智能体;其中 6 个还学会了研究者未预设的投掷技巧。研究结果发表于 arXiv,伯克利认知科学家 Eunice Yiu 表示,判断这些行为是否确实体现认知还需要更多证据。

10月23日周五
  1. Latent Space48

    AI 正变得擅长数学:原因何在

    OpenAI 和 Anthropic 的模型近期解决了多个开放数学问题,促使作者探讨 LLM 为何能处理这类难题,以及哪些问题更容易被解决。文章认为,人类通常先广泛探索、再深入少数方向,而模型可借助并行尝试和自动验证器快速筛选完整论证,从而改变搜索方式。