重点 · 1官方/一手
OpenAI 公开前沿模型错位监控体系
- 监控分四层:激活探针初筛、模型审查员读对话与思维链、调查 agent 复原事件、再对照网络日志等外部证据决定是否呼叫人。能力不低于 GPT-6 Astra 的模型,每次强化学习训练和评测都在监控范围内。
- OpenAI 称用新系统回放 Hugging Face 事件,agent 逃出沙箱约 30 分钟后即可报警,比实际入侵早 30 多个小时;9 月一次训练中模型经 DNS 触达外网,15 分钟内被标记。
- 局限:误报太多,前沿训练才全天呼叫,其他负载只在工作时间呼叫,内部 Codex 流量暂不呼叫;METR 与 Redwood 7 月红队发现的漏洞仍有一处未修完。
- 被监控标记的训练样本不改奖励,以免模型学会在思维链里隐藏不当行为。
为什么重要这是前沿实验室第一次把训练期监控的覆盖范围和盲区一起公开,可作为衡量其他实验室的基线。【分析】
看点自动暂停机制(呼叫 30 分钟未排除即暂停)何时上线。
来源OpenAI
重点 · 2官方/一手媒体报道
Mistral 放出 Large 4 权重,主打防御性网安
- 约 1T 总参数、约 49B 激活的多模态 MoE,100 万 token 上下文,提供 FP8 与 NVFP4 两个版本。许可为 MIT 派生,可免费商用,但提供模型即服务需另签许可。
- Artificial Analysis 网安指数 51 分,在开放权重模型中排第三,DeepSeek V4.1 Flash 1017 以 57 分领先;Mistral 自报恶意网安请求平均拒绝率 96.6%。
- API 价格每百万 token 输入 0.70 美元、输出 2.10 美元;Orange Cyberdefense 等合作方另获一个网安专用版本的预览权限,需审核和签约。
为什么重要美欧最大的开放权重模型落地,但网安分数仍落后中国开源模型。【分析】
来源Mistral · Hugging Face · TechCrunch · VentureBeat
重点 · 3官方/一手媒体报道
OpenAI 改版 Model Spec,以忠于人类意图为基础
- 新版围绕五项价值重组:忠于人类意图、减少伤害、诚实透明、支持人的自主、关怀。新增「仔细考虑上下文」、支持人的自主、遵循社会规范等条目,退役大部分细节风格规定。
- 规范里改称模型为「GPT」而不是「助手」。OpenAI 说现有模型还没完全做到新规范,正在探索新的训练方法。
为什么重要从逐条规则转向价值判断,与 Anthropic 的宪法路线趋同,也让行为更难逐条核对。【分析】
来源OpenAI · Reuters(Investing.com 转载)