重点 · 1官方/一手
谷歌开源 TorchTPU,PyTorch 原生支持 TPU
- 10 月 20 日 PyTorch 大会上,谷歌宣布 TorchTPU 在 GitHub 开源。它与 Meta 的 PyTorch 团队合作开发,让 TPU 和 GPU、CPU 一样成为 PyTorch 的原生设备,旧代码只需改设备初始化。
- 官方称已支持约 450 个底层算子、eager 调试与 torch.compile,并在 Hugging Face 下载量最高的 5,000 个模型上验证可直接运行;已接入 vLLM、SGLang、TorchTitan、Ray 等,并已用于部分大客户的生产训练和推理。
- 同时发布处于早期预览的 TPU agent 套件,用编程 agent 帮开发者迁移、排错和调优推理性能。Hugging Face 称其 Transformers 和 Diffusers 已可直接在 TPU 上运行。
为什么重要迁移成本是英伟达之外芯片最大的门槛,谷歌这次连迁移本身也交给 agent 做。【分析】
看点独立团队在同一模型上对比 TPU 与 GPU 的训练成本和速度。
来源Google Cloud · PyTorch · Hugging Face · TechCrunch
重点 · 2付费报道·二手转述
招股书草案:Anthropic 上半年净亏 807 亿美元,算力仍不够
- 《华尔街日报》10 月 20 日称看到 Anthropic 的 IPO 招股书草案:2026 年上半年收入 163 亿美元,净亏损 807 亿美元(去年同期 130 亿),其中约 720 亿来自可转债等融资工具估值变化的会计费用,并非现金支出。
- 草案称难以从 AWS、谷歌、微软获得足够算力,这些云厂商越来越把它视为竞争者;公司正自租数据中心并与第三方运营商合作,但担心后者「运营历史有限」。未来数年在算力上的支出可能达 7,500 亿美元,部分合同仍在谈判。
- 两家客户约占收入五分之一;草案还警告,有害 AI 行为造成的赔偿可能超出保险覆盖。
为什么重要前沿实验室同时是云厂商的大客户和对手,算力供给本身已成为写进招股书的风险。【分析】
疑点草案未公开,以上数字均来自转述;正式 S-1 提交后需核对。
来源WSJ(付费) · 路透/Investing.com · TechCrunch
重点 · 3官方/一手
记忆张量开源记忆原生模型 MemT-1.0
- 10 月 20 日上海记忆张量发布并开源 MemT-1.0,包括 Nano(36B)和 Flash(288B)两款,Flash 权重为 MIT 许可。它在模型内部保留一块固定容量、可持续更新的记忆,新对话无需再把完整历史塞进上下文。
- 论文自测:在 128K 历史长度下,Nano 端到端推理提速约 1.86 倍,持久存储比保留完整 KV 缓存少约 66 倍;平均表现优于参数化记忆基线,与检索增强方法相当,并能把检索到的操作经验内化以提高 agent 任务成功率。
- 继续预训练加后训练两个阶段共用约 340 亿 token 数据。
为什么重要持续学习和长期记忆是可能改变能力边界的方向,开放权重让外部团队能直接检验「记住并成长」是否成立。【分析】
看点第三方在长周期 agent 任务上的复测;记忆是否会累积错误或被注入污染。
来源Hugging Face 论文页 · Hugging Face 模型 · 凤凰网