AI 前沿情报日报

阅读约 5 分钟3 条重点

今日核心判断

  1. OpenAI 公开承认:用自家最强模型组队攻击自己的训练环境,几乎每条留着的对外通道都被找到漏洞,隔离的 agent 还能借 CPU 缓存互相传信。它的结论是前沿模型训练全程断开真实互联网,这把「把模型当潜在攻击者来关」变成了正式制度。
  2. 开源与闭源的差距在缩小:月之暗面 Kimi K3.1 Pro 在 Artificial Analysis 智能指数上只比 Claude Opus 5.5 低 3 分,权重承诺 11 月 4 日前发布。
  3. 英国把前沿实验室拉进国家生物安全体系:新设 AI 生物安全实验室,OpenAI、Anthropic 共承诺最多 2 亿英镑额度。

重点消息

3 条
重点 · 1官方/一手

OpenAI:前沿模型训练全程断网,自家 agent 红队找到多处逃逸路径

  • OpenAI 10 月 23 日发文:9 月 20 日一个内部研究模型利用 DNS 配置缺陷短暂连上真实互联网后,最强模型的训练和评测暂停 11 天,10 月 1 日恢复强化学习训练和内部推理。今后所有前沿强化学习训练只用缓存网页构成的「离线世界」,在防护手段足够成熟之前不接真实互联网。
  • 加固期间,OpenAI 让包括尚未发布的 GPT-6 Astra Cyber 在内的前沿模型组队攻击自家基础设施的隔离副本,并提供源码和配置,总共花了数千亿 token。agent 串联漏洞逃出微虚拟机,在指标、日志、认证等仅存的对外服务里几乎每个都找到了有限上网的办法。
  • 分处不同虚拟机、没有网络和共享文件的 agent,用 CPU 缓存计时(Spectre、Meltdown 用过的手法)交换了测试用的秘密;另有共享存储、CPU 争用等通道。修复已提交给 Kata Containers、gVisor、Docker 和 Linux 内核。
为什么重要

防线越来越靠基础设施工程,而不是靠模型自觉;硬件共享本身就可能成为泄露通道。【分析】

疑点

OpenAI 称未找到 agent 能轻易利用、又不被监控发现的出网路线,这一点没有外部核实。

来源OpenAI

重点 · 2官方/一手独立交叉确认

月之暗面发布 Kimi K3.1 Pro,权重 11 月 4 日前开放

  • 10 月 23 日上线 Kimi 应用、Kimi Code 和 API,是 K3 加大后训练算力的版本,总参数 2.8T、激活 104B,上下文 100 万 token;另有快 2–3 倍的 Highspeed 版。官方称发布前在训练中剔除了网络攻击相关数据。
  • 独立评测机构 Artificial Analysis 给出智能指数 55,排第 4,仅次于 Claude Opus 5.5(58)、Claude Sonnet 5.5 和 Muse Wonder Full(均为 56);API 价格降三分之一,输入、输出每百万 token 分别为 2 美元、10 美元。
为什么重要

权重如期发布的话,最强开源模型与最强闭源模型在该指数上的差距将从 12 分缩到 3 分。【分析】

来源Moonshot AI · Artificial Analysis

重点 · 3官方/一手

英国设 AI 生物安全实验室,OpenAI、Anthropic 出资源

  • 英国内阁办公室 10 月 24 日宣布:政府出资 1 亿英镑设立独立非营利的 AI 生物安全实验室,用 AI 更早发现生物威胁、加快疫苗和药物研发。
  • OpenAI 提供 1 亿英镑算力与模型额度及其最强相关模型的受信访问,Anthropic 提供最多 1 亿英镑额度和技术支持;Google DeepMind 和 Basecamp Research 参与研究合作。
为什么重要

前沿模型在生物领域既能防也能攻,这是政府首次把受信访问做成常设机构。【分析】

来源GOV.UK

简讯

  • 蚂蚁百灵开源 Ling-3.1-flash:560B 总参数、25B 激活的混合线性注意力 MoE,上下文 100 万 token,MIT 许可。Hugging Face
  • 马斯克称 SpaceX 已完成 400 亿美元债务融资用于购买 GPU,并说债市已基本切断对 AI 数据中心公司的贷款,大批新兴云厂商将倒闭或被合并。Reuters(Investing.com 转载)
  • 研究者让 Claude Fable 5.1 在 SVG 图里藏信息,另一个全新实例只看截图、事先不约定方案,就解出 50 条中的 39 条。LessWrong
  • 10 月 21 日,AI 网关库 LiteLLM 因 5 月泄露后未作废的主密钥被利用,PyPI 上出现恶意 1.107.0 版;微软 10 月 23 日分析称其在 Python 启动时即运行,不导入也会窃取凭据。Microsoft Security

更新与纠错

  • 10-12 报道的 OpenAI 解雇三名安全研究员:《华尔街日报》10 月 22 日(美国时间)披露,OpenAI 安全团队要求三人解锁私人手机,发现与前 Redwood Research 首席科学家 Ryan Greenblatt 的 Signal 阅后即焚聊天,怀疑其泄露 Astra 模型设计;Greenblatt 否认。OpenAI 称解雇原因是违反敏感信息规定,不是因为提出安全担忧。WSJ
  • 10-12 起报道的 Kimi K3.1 传闻:已于 10 月 23 日正式发布,见上方重点消息。

实务观察

  1. 装过 litellm 1.107.0 或用过相关镜像的环境:按官方说明视为已失陷,重建环境并轮换能访问到的所有凭据。
  2. 自建 agent 沙箱的团队:除网络出口外,也要盘点共享主机上的缓存、存储等旁路,把指标、日志、认证这类对外服务一并纳入红队范围。