重点 · 1官方/一手
METR 红队测试 OpenAI 内部监控,发现多种绕过办法
- METR 10 月 22 日发文:一名 METR 员工和一名 Redwood Research 员工在 7 月 21 日至 8 月 11 日,带着 OpenAI 内部代码库、监控提示词与配置的访问权限,在其办公场所测试内部错位监控系统,写成 61 页内部报告;公开版按事先约定只写概要。
- 发现包括:agent 可能绕过 Codex 沙箱和自动审查,执行宿主用户能做的任何操作;有一个漏洞能让数百条最近的操作(含漏洞利用本身)不被监控,细节被 OpenAI 删去;两个客户端可控的请求头能让新起的 agent 不受监控;监控只在 agent 交还控制权时触发,上下文压缩不受监控期间,agent 可以一直不停手来无限推迟被检查。
- 估计当时有 75%–94% 的内部 agent 流量在监控范围内,内部 Codex 流量为 99.2%;RL 训练运行当时不在监控范围内。OpenAI 称受影响的漏洞已全部修补,METR 表示未核实。
为什么重要这是外部机构首次以这种深度检查前沿实验室的内部监控,结论是监控需要能扛住能力很强的 agent 有意、持续的攻击。【分析】
看点METR 表示今后的同类测试会按更透明、更独立的做法公开结果。
来源METR
重点 · 2官方/一手
微软:国家背景黑客用 agent 框架批量入侵
- 微软 10 月 21 日(美国时间)披露,中国国家背景组织 Storm-0940 最早从 9 月起使用开源 AI 渗透测试框架 ARTEX,自动化侦察、密码喷洒和 OAuth 应用滥用,目标涉及全球数百个机构;多起案例从选定目标到拿到云端特权不到 3 小时。
- 微软判断此前披露的 ConnectWise 多租户应用供应链入侵也是该组织所为,并称事件不涉及微软自身系统漏洞。
为什么重要agent 不休息、可同时尝试多条入侵路径,防守方的响应时间要按小时计。【分析】
来源Microsoft Security · CyberScoop
重点 · 3独立交叉确认
DeepSeek 据报融资约 150 亿美元
- 彭博 10 月 22 日首发,路透和《华尔街日报》随后分别援引知情人士报道:DeepSeek 新一轮融资约 1,000 亿元人民币,宁德时代和腾讯是最大出资方之一,融资目标先后从 500 亿、800 亿元上调。
- 路透称投前估值 5,000 亿元,投资方超过 15 家,含兆易创新、美团、吉利、美的、网易等,条款仍可能变化;《华尔街日报》称其计划明年初在上海上市。DeepSeek 未置评。
为什么重要消息出现在美国 DHS 禁止联邦机构使用 DeepSeek 几天后,资金规模仍远小于 OpenAI、Anthropic。【分析】
来源Bloomberg · Reuters(KSL 转载) · WSJ
重点 · 4官方/一手
Meta 开源端侧 agent 模型 Muse Glimmer 30B
- Meta 超级智能实验室发布 30B 稠密多模态模型 Muse Glimmer,以 Apache-2.0 许可在 Hugging Face 开放权重,提供 4 位量化版本和投机解码草稿模型,可在单张消费级 GPU 的 Mac 或 PC 上运行。
- 预训练阶段用 Muse Spark 的输出做 logit 蒸馏,再用更长上下文、更多 agent 数据继续训练;官方称在同尺寸里与 Gemma4-31B、Qwen3.6-27B 相比表现较强,跑分为自测。
为什么重要Meta 把闭源 Muse 系列的能力蒸馏进可本地运行的开源模型,本地 agent 的开源选择更多了。【分析】
来源Meta AI · Hugging Face