《模型竞赛转向执行层》

每日全球 AI 情报报纸 · 创刊第 14 期 · 北京时间 2026 年 8 月 22 日

今天的核心变化是:模型、协作入口、执行框架、人才和数据中心正在被打包成一套系统。先读“今日主线”看懂格局,再按分类阅读 10 条要闻;可信度标签表示证据强弱。

卷首语

本期帮助读者看懂一条主线:AI 竞争的价值中心正在从“谁有更强的单一模型”,移动到“谁能把模型接入真实协作入口、配好执行框架、掌握训练与推理资产,并为全过程保留审计证据”。阅读时先看“今日主线”理解格局变化,再按分类浏览 10 条“今日要闻”;“正式信息、媒体报道、行业风声”表示证据强弱,不代表新闻价值高低。

过去一天,DeepSeek 为 V4-Flash 增加实验性视觉理解,GitHub 把 Copilot 云端智能体带进 Microsoft Teams,英伟达则被曝同时购买模型许可、吸纳人才并投资数据中心开发商。研究侧也在围绕同一问题收敛:工具能力要专门训练,执行框架可以单独优化,高风险机器人必须先获得证据再行动。模型仍然重要,但决定最终效果的已越来越是模型之外的“执行层”。

今日主线:模型能力、协作入口与基础设施被打包成同一套执行系统

重点一:DeepSeek 发布实验性视觉模型,补齐多模态智能体入口

正式信息|已确认

DeepSeek 8 月 21 日在 API 更新日志中上线 DeepSeek-V4-Flash-Vision-Exp,这是面向视觉理解的实验模型,可通过 API 指定模型名称调用。官方称其纯文本代理、推理和知识能力与 V4-Flash 大体相当,在需要视觉理解的智能体评测上有明显提升;所有跑分均为厂商自报,尚待第三方复现。

与主线的关系: 这不是单纯增加“看图”功能,而是让编码、网页操作、图表分析和视频上下文进入同一代理循环。模型入口从文本扩展到视觉后,执行框架要同时处理附件、工具调用、状态恢复和证据追踪。

来源:DeepSeek API 更新日志|发布时间:2026-08-21|可信度:高(能力数字为厂商评测)
https://api-docs.deepseek.com/updates/

重点二:GitHub Copilot 进入 Microsoft Teams,会议讨论可直接启动云端编码智能体

正式信息|已确认

GitHub 宣布 Copilot 与 Microsoft Teams 的共享智能体协作进入公开预览。用户可在频道、讨论串或私聊中提及 @GitHub 启动云端智能体,会话参与者可共同补充上下文和调整方向;拥有仓库写权限的人可以触发代码变更。GitHub 同时允许仓库管理员要求 Copilot 集成身份创建的拉取请求增加一次额外批准。

与主线的关系: 编码代理不再只待在终端和编辑器,而是进入团队决策发生的地方。会议结论、仓库权限、云沙箱、AI 积分和合规审批被连成一条执行链,产品竞争因此转向跨入口编排能力。

来源:GitHub Changelog|发布时间:2026-08-21 09:03(美国太平洋时间)|可信度:高
https://github.blog/changelog/2026-08-21-shared-agentic-work-with-github-copilot-in-microsoft-teams/

重点三:英伟达被曝用许可、人才与数据中心投资同时锁定执行层资产

媒体报道|待相关公司完整确认

Bloomberg 报道,英伟达同意向 Poolside 支付 60 亿美元获取 AI 模型许可,并计划向 100 多名员工发出工作邀请;交易细节来自知情人士,尚未见双方完整公告。Reuters 与 TechCrunch 另称,英伟达已取得数据中心开发商 Cloverleaf Infrastructure 的少数股权,投资规模可能达到数亿美元。

与主线的关系: 英伟达的角色正从芯片供应商扩大到模型许可方、人才吸纳方、算力项目投资者和需求组织者。它既卖执行所需的硬件,也在直接塑造哪些模型、团队和数据中心能够进入市场。

来源:Bloomberg、Reuters(经 TechCrunch 交叉核验)|发布时间:2026-08-20 至 21|可信度:中高
https://www.bloomberg.com/news/articles/2026-08-20/nvidia-to-pay-ai-startup-poolside-a-6-billion-license-newcomer-says https://www.reuters.com/technology/nvidia-invests-data-center-developer-cloverleaf-infrastructure-2026-08-21/ https://techcrunch.com/2026/08/21/nvidia-partners-with-data-center-developer-cloverleaf/

今日要闻

模型与产品发布

1. DeepSeek-V4-Flash-Vision-Exp 上线,视觉代理能力进入实验阶段

正式信息|已确认

DeepSeek 新模型支持视觉理解,官方给出的评测覆盖 Terminal Bench、NL2Repo、DeepSWE、图表理解和多项代理基准。官方特别说明,纯文本能力与正式版 V4-Flash 接近,而视觉代理任务出现显著增益;模型名称中的 Exp 表明它仍是实验版本,不宜未经回归测试就替换生产模型。

该发布还透露出新的产品路线:厂商不再把多模态只做成聊天界面的识图功能,而是把视觉信号直接接入代码、搜索、自动化和工具调用。对开发者而言,真正需要验证的是图片或视频输入能否稳定转成正确动作,而不只是回答是否流畅。

为什么重要: 多模态代理将扩大可自动化任务范围,也会增加输入体积、隐私、提示注入和错误动作风险。实验模型应采用独立配额、可撤销权限和生产回退线路。

来源:DeepSeek API 更新日志|发布时间:2026-08-21|可信度:高(跑分为厂商报告)
https://api-docs.deepseek.com/updates/ https://api-docs.deepseek.com/guides/vision

2. GitHub Copilot 在 Teams 中开放多人共同指挥云端智能体

正式信息|已确认

GitHub Copilot 的 Teams 集成允许多人在同一个聊天上下文中观察调查过程、追加资料并调整任务,智能体随后在安全云沙箱中异步工作。任务产物还可继续在终端、GitHub Copilot 应用或集成开发环境中处理,形成从会议到代码的跨端接力。

公开预览面向付费 Copilot 计划,云端智能体会消耗 AI 积分,云沙箱另行计费;组织可以设置用量预算。仓库写权限仍是触发修改的前提,并可对集成身份创建的拉取请求增加额外人工审批。

为什么重要: 团队协作入口会成为智能体分发的新战场,但“所有人都能说话”不等于“所有人都能改代码”。组织必须把聊天参与权、仓库写权限、合并批准和费用预算分开治理。

来源:GitHub Changelog|发布时间:2026-08-21|可信度:高
https://github.blog/changelog/2026-08-21-shared-agentic-work-with-github-copilot-in-microsoft-teams/

算力、芯片与基础设施

3. 英伟达入股 Cloverleaf,芯片厂继续向数据中心项目上游延伸

媒体报道|交易存在,金额待完整披露

Reuters 报道英伟达已取得 Cloverleaf Infrastructure 少数股权;TechCrunch 引述《华尔街日报》称,投资可能累计达到数亿美元。Cloverleaf 是数据中心与电力基础设施开发商,这笔交易延续英伟达以资本推动 AI 数据中心建设、再由项目采购其计算系统的循环。

同一周,英伟达还宣布向与 OpenAI 项目有关的 SB Energy 投资 15 亿美元。单看每笔交易,它们是财务投资;合并观察,则能看到芯片供应商正主动介入土地、电力、融资和开发进度,降低未来 GPU 需求被基础设施瓶颈卡住的风险。

为什么重要: AI 芯片竞争越来越依赖谁能让数据中心按时通电并获得融资。供应商与客户、投资方和项目开发商之间的边界将继续模糊,也会增加关联交易和资产利用率风险。

来源:Reuters、TechCrunch|发布时间:2026-08-21|可信度:中高
https://www.reuters.com/technology/nvidia-invests-data-center-developer-cloverleaf-infrastructure-2026-08-21/ https://techcrunch.com/2026/08/21/nvidia-partners-with-data-center-developer-cloverleaf/

资本、组织与商业

4. 英伟达据报以 60 亿美元许可 Poolside 模型,并向百余名员工发出邀请

媒体报道|待双方完整确认

Bloomberg 援引知情人士称,英伟达同意支付 60 亿美元许可 Poolside 的 AI 模型,并计划向该公司 100 多名员工提供职位。报道更新还提到额外投资与估值安排,但公开可读取内容不足以完整核验全部条款,因此本报只采用许可金额和人才邀请这两个可直接看到的核心信息。

这类“许可+人才”结构不同于传统收购:买方可以迅速获得模型技术与团队能力,同时避免直接接管全部公司资产和合同。近年大型科技公司频繁使用类似安排,监管机构也会关注它是否实质上形成控制或削弱市场独立竞争。

为什么重要: 前沿 AI 资产的交易单位已从“公司”拆分为模型许可、训练成果、关键员工和算力合同。英伟达若把模型能力纳入自身平台,将进一步强化硬件、软件和代理执行框架的一体化。

来源:Bloomberg|发布时间:2026-08-20,8 月 21 日更新|可信度:中高
https://www.bloomberg.com/news/articles/2026-08-20/nvidia-to-pay-ai-startup-poolside-a-6-billion-license-newcomer-says

5. AI 会计公司 Rillet 完成 1 亿美元 C 轮,估值达到 10 亿美元

信息分层:正式信息|融资已由公司及投资方确认

Rillet 宣布完成 1 亿美元 C 轮融资,由 ICONIQ 领投,Andreessen Horowitz 与 Sequoia 等继续参与,公司估值达到 10 亿美元。公司称客户已超过 600 家,最近三个月年化经常性收入翻倍;TechCrunch 进一步报道,本轮在既有投资人了解业务进展的基础上于约 48 小时内成形。

Rillet 的重点不是在旧会计软件上增加聊天框,而是把总账和财务流程设计成适合智能体持续取数、计算、记忆与审计的系统。公司还提供决策审计功能,让会计人员查看代理使用了哪些数字、如何计算以及做过哪些历史动作。

为什么重要: AI 原生应用开始挑战 ERP(企业资源计划)和财务系统等高粘性软件。能否给每一笔代理操作保留人类可读证据,将直接决定它能否进入上市公司和受监管财务流程。

来源:Rillet、ICONIQ、TechCrunch|发布时间:2026-08-19 至 21|可信度:高
https://www.businesswire.com/news/home/20260819978953/en/Rillet-Raises-%24100M-Series-C-at-%241B-Valuation-to-Build-Accounting-Superintelligence https://www.iconiq.com/growth/insights/iconiq-leading-rillets-100m-series-c https://techcrunch.com/2026/08/21/how-ai-accounting-startup-rillet-raised-100m-and-became-a-unicorn-in-48-hours/

监管、安全与治理

6. OpenAI 成立 Strategic Futures 团队,把“权力集中”列为长期 AI 风险

正式信息|已确认

OpenAI 推出 AI Futures(AI 未来)博客与 Strategic Futures(战略未来)团队,研究变革性 AI 出现后,社会如何保留个人权利与行动能力。首篇文章把权力集中称为长期最严重、最难处理的风险之一,并提出高风险行动应能追溯到负责任的人或人类控制组织,同时强调隐私和匿名表达不能被一并牺牲。

文章还直接引用近期 Hugging Face 智能体事件,说明去中心化不能解决所有风险,失控智能体同样需要集体治理。它并非具体政策承诺或产品规则,而是一份研究议程和原则声明。

为什么重要: OpenAI 的安全讨论从模型能力、网络攻击和生物风险,进一步扩展到国家、公司和个人之间的权力结构。未来治理争论可能同时围绕“谁能使用 AI”和“谁对高风险动作负责”展开。

来源:OpenAI|发布时间:2026-08-20|可信度:高
https://openai.com/index/introducing-ai-futures/

开源社区与研究

7. AI4AI-Bench 测试“让 AI 改进训练算法”,最佳系统仍只走完不足五分之一路程

信息分层:正式信息|论文原文可核验

AI4AI-Bench 提供 10 个冻结研究仓库,覆盖 10 类训练算法,要求智能体在单张 B300 上用 4 小时改写训练算法,再从头运行最多 12 小时并由隐藏评估器评分。作者测试 6 套系统的 29 种配置,平均标准化分数为 0.166,最佳为 0.250;作者解释,这意味着即使最强系统也只弥合了原始算法到任务最优值之间不到五分之一的差距。

研究发现,很多提交根本没有改变模型如何学习;真正修改训练算法的少数方案表现更好。增加推理投入主要提高了系统“敢于动训练算法”的比例,而不是自动保证成功。

为什么重要: “递归自我改进”常被抽象讨论,这套基准把问题落到可重复实验:AI 能否真正设计更好的训练算法,而不只是调参数或堆数据。当前结果更像能力萌芽,而非自我改进已经失控。

来源:arXiv:2608.20318|提交时间:2026-08-20|可信度:中高(作者报告,待独立复现)
https://arxiv.org/abs/2608.20318

8. MidTool:工具使用不能只靠后训练,模型中期训练也需要真实 API 与 MCP 工作流

信息分层:正式信息|论文与数据入口可核验

MidTool 提出面向智能体工具使用的中期训练数据构建流程,把网页、PDF、代码、真实工具 API、MCP 技能和文档工作流组合成训练语料。作者用 MidTool-Mix 对 Qwen3-4B-Base 与 Qwen3-8B-Base 进行中期训练,再接监督微调和强化学习,报告称在 BFCL、tau2-Bench 与 MCP Universe 上持续优于对照方案。

论文强调,模型需要专门学习识别工具用途、从上下文填写参数、组合调用流程,以及在信息不完整时恢复,而不能把这些能力全部留给后训练阶段临时补齐。

为什么重要: 工具调用正从“提示词技巧”变成基础模型训练目标。未来代理模型的差异可能更多来自训练数据是否覆盖真实工具约束,而不是只看通用问答跑分。

来源:arXiv:2608.20314、Hugging Face 数据与模型集合|提交时间:2026-08-20|可信度:中高(作者报告)
https://arxiv.org/abs/2608.20314 https://hf.co/collections/MidTool/midtool-release

9. Task-CoEvolve 把智能体执行框架优化成本降低约 80%

信息分层:正式信息|论文原文可核验

Task-CoEvolve 研究的不是更新模型权重,而是反复改写 harness(智能体执行框架)代码,使同一模型在验证任务上表现更好。传统方法每轮都跑完整验证集,成本很高;新方法优先抽取候选框架表现分歧最大的任务,并用采样概率估计全量得分。

作者在在线文本分类和 Terminal-Bench 2.1 上报告,Task-CoEvolve 在减少约 80% 评测次数的同时,最终性能可接近完整验证集搜索。代码仓库已给出,但论文结果仍需第三方复现。

为什么重要: 当模型能力接近时,执行框架可以成为单独优化的资产。降低框架搜索成本,会让更多团队在不训练新模型的情况下提升智能体效果,也会提高对验证集污染和过拟合的警惕。

来源:arXiv:2608.20169、GitHub|提交时间:2026-08-20|可信度:中高(作者报告)
https://arxiv.org/abs/2608.20169 https://github.com/Agent4Science-UTokyo/Task-CoEvolve

10. 机器人“证据门控”研究:找不到目标物体时,先探索或停手,而不是凭常识硬做

信息分层:正式信息|论文原文可核验

EAFG(证据获取与可行性门控)框架面向部分可观测环境中的长流程机器人任务。视觉语言模型先提出探索子目标,任务与运动规划器执行并收集视觉证据,然后系统决定继续规划、进一步探索或停止;在需要的物体实际不存在时,框架会减少反复尝试和错误操作。

论文以存在歧义的烹饪任务为例,报告称先发现任务相关物体再规划可提高完成率。该工作规模仍有限,但它把“看见证据再行动”做成了明确系统门槛。

为什么重要: 物理智能体不能把语言模型的常识当成环境事实。证据门控、可行性检查和允许停手,将是机器人进入家庭、工厂和公共空间前必须具备的安全能力。

来源:arXiv:2608.20084|提交时间:2026-08-20|可信度:中高(作者报告)
https://arxiv.org/abs/2608.20084

行业风声|未经证实

Ox Alpha 匿名模型出现,号称百万词元上下文与视频输入

行业风声|未经证实|置信度:低至中

第三方模型路由平台出现名为 stealth/ox-alpha 的匿名模型,运营方声称它支持约 100 万词元上下文、文本/图片/视频输入、工具调用与结构化输出,并在一周内免费。当前没有开发公司认领、没有独立基准、没有公开架构和正式长期价格;关于其可能来自哪家中国实验室的猜测仅基于过去匿名模型的发布模式,不能当作事实。

更需要警惕的是数据条款:宣传中的“零数据保留”与平台页面所述保留提示词和回答但不用于训练之间存在口径差异。匿名运营方、免费流量和超长上下文叠加时,不应上传私有代码、客户数据或机密文档。

来源:OrcaRouter 跟踪文章与平台自述|出现时间:2026-08-20|可信度:低至中
https://www.orcarouter.ai/blog/ox-alpha-stealth-model-what-we-know

📚 AI实用教程

① Claude Code 系列第 14 期:把三类失败事件合并成一条会话时间线

难度:进阶|预计动手时间:30 分钟|成本:免费|环境:Claude Code 当前官方 Hooks 机制、Python 3.9+|前置:能编辑项目 .claude/settings.json

适用场景: 上一期已用 PermissionDenied 记录自动模式拒绝。本期把 PermissionDenied、PostToolUseFailure(工具执行失败)和 StopFailure(API 错误导致回合终止)统一写入一个 JSONL 文件,便于判断一次会话到底是权限、工具还是模型服务出了问题。

  1. 新建 .claude/hooks/failure_timeline.py:
展开完整可复制代码/命令
#!/usr/bin/env python3
"""把 Claude Code 三类失败 Hook 统一记录为 JSONL;不改变原始决策。"""
import json
import pathlib
import sys
from datetime import datetime, timezone

payload = json.load(sys.stdin)
event = str(payload.get("hook_event_name", "未知事件"))
record = {
    "时间": datetime.now(timezone.utc).isoformat(),
    "事件": event,
    "会话ID": payload.get("session_id"),
    "智能体ID": payload.get("agent_id"),
    "工具": payload.get("tool_name"),
    "工具输入": payload.get("tool_input"),
    "错误": payload.get("error") or payload.get("error_type"),
    "原始事件": payload,
}
path = pathlib.Path(".claude/failure-timeline.jsonl")
path.parent.mkdir(parents=True, exist_ok=True)
with path.open("a", encoding="utf-8") as file:
    file.write(json.dumps(record, ensure_ascii=False) + "\n")

# 只记录,不批准、不拒绝、不要求重试。
print("{}")
  1. 在 .claude/settings.json 中配置三个事件:
展开完整可复制代码/命令
{
  "hooks": {
    "PermissionDenied": [
      {
        "matcher": "*",
        "hooks": [
          {"type": "command", "command": "python .claude/hooks/failure_timeline.py", "timeout": 10}
        ]
      }
    ],
    "PostToolUseFailure": [
      {
        "matcher": "*",
        "hooks": [
          {"type": "command", "command": "python .claude/hooks/failure_timeline.py", "timeout": 10}
        ]
      }
    ],
    "StopFailure": [
      {
        "matcher": "rate_limit|overloaded|authentication_failed|billing_error|server_error|unknown",
        "hooks": [
          {"type": "command", "command": "python .claude/hooks/failure_timeline.py", "timeout": 10}
        ]
      }
    ]
  }
}
  1. 完成一次测试会话后,用下面脚本生成中文摘要,保存为 summarize_failures.py:
展开完整可复制代码/命令
#!/usr/bin/env python3
import json
import pathlib
from collections import Counter

path = pathlib.Path(".claude/failure-timeline.jsonl")
rows = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
counts = Counter(row.get("事件", "未知事件") for row in rows)
print(f"失败记录总数:{len(rows)}")
for name, count in counts.most_common():
    print(f"- {name}:{count} 次")
print("最近三条:")
for row in rows[-3:]:
    print(f"- {row.get('时间')}|{row.get('事件')}|工具={row.get('工具')}|错误={row.get('错误')}")

运行:

展开完整可复制代码/命令
python summarize_failures.py

成功标志: .claude/failure-timeline.jsonl 每次失败新增一行,摘要脚本能按事件统计。官方文档列出的 StopFailure 匹配值包括 rate_limit、overloaded、authentication_failed、billing_error、server_error 等。

常见坑: 三类事件的字段并不完全相同,所以脚本必须用 get();PermissionDenied 的重试规则与上一期相同,本期脚本故意不返回 retry。项目级 Hook 会在子代理中同样触发,agent_id 可用于区分来源。

什么情况下不该用: 日志可能包含命令参数和文件路径;处理客户数据或密钥时,不要把原始 tool_input 长期保存,应先做脱敏。

参考:Claude Code Hooks 官方文档
https://code.claude.com/docs/en/hooks 下期预告: 第 15 期在失败时间线上增加敏感字段脱敏与会话结束报告,并把可重试故障和必须人工处理的故障自动分栏。

② Hermes Agent 系列第 14 期:用 Kanban 任务卡绑定工作树、验收清单与独立复核

难度:进阶|预计动手时间:25 分钟|成本:免费|环境:Hermes Agent 当前官方 Kanban 与 Git worktree 机制、Git 仓库|前置:已配置 implementer 与 reviewer 两个 Hermes profile

适用场景: 上一期已经建立“工作树+检查点”双层恢复。本期让每个工作树对应一张持久任务卡,把目标、验收条件、修改文件和测试结果作为结构化交接,再由独立 reviewer 决定通过或退回。

  1. 初始化任务板并创建实现任务。下面命令由人或自动化运行,任务正文直接写清验收条件:
展开完整可复制代码/命令
hermes kanban init
TASK_ID=$(hermes kanban create "为订单接口增加幂等保护" \
  --assignee implementer \
  --workspace worktree \
  --branch "hermes/order-idempotency" \
  --body "目标:重复提交同一幂等键时只创建一笔订单。验收:1)新增并发重复请求测试;2)全部原有测试通过;3)不得记录完整支付令牌;4)完成后请求 reviewer 复核。" \
  --json | python -c "import json,sys; print(json.load(sys.stdin)['id'])")
printf '%s\n' "$TASK_ID"
  1. 工作者被调度后,应先读取任务,再在独立工作树完成修改。模型侧使用的是 Kanban 工具,不是 shell 命令;交接时应调用:
展开完整可复制代码/命令
kanban_request_review(
  summary="已增加幂等键唯一约束与并发测试,候选变更等待复核",
  metadata={
    "changed_files": ["src/orders.py", "tests/test_orders.py"],
    "verification": ["python -m pytest tests/test_orders.py -q:12项通过"],
    "acceptance": {
      "重复请求只创建一笔订单": true,
      "原有测试通过": true,
      "未记录完整支付令牌": true
    },
    "residual_risk": ["尚未进行跨区域数据库延迟测试"]
  },
  reviewer="reviewer"
)
  1. reviewer 读取同一任务卡、工作树差异与结构化证据。若不满足验收条件,调用:
展开完整可复制代码/命令
kanban_request_changes(
  reason="并发测试只覆盖单进程;请增加两个独立连接同时提交同一幂等键的用例。"
)
  1. 实现者修正后再次 kanban_request_review(...);复核通过时 reviewer 调用:
展开完整可复制代码/命令
kanban_complete(
  summary="独立复核通过:验收条件全部满足,并发重复提交测试稳定通过。",
  metadata={
    "reviewed_files": ["src/orders.py", "tests/test_orders.py"],
    "verification": ["python -m pytest tests/test_orders.py -q:13项通过"],
    "decision": "通过"
  }
)
  1. 人工查看完整历史:
展开完整可复制代码/命令
hermes kanban show "$TASK_ID"
hermes kanban runs "$TASK_ID"

成功标志: 同一任务的运行历史应出现“请求复核 → 要求修改 → 再次请求复核 → 完成”,且每次都有不同角色、摘要和证据。worktree 工作区完成后会保留,便于合并前再次检查。

常见坑: 普通复核意见不要用 kanban_block,官方建议使用 kanban_request_changes,避免把正常审查计入阻塞循环;实现者不要直接 complete 跳过 reviewer;任务正文必须写可判断的验收条件,不能只写“做好一点”。

什么情况下不该用: 一次性、无文件变更、无需跨会话保存的短问题,使用 delegate_task 更轻;Kanban 适合会跨角色、重试或人工介入的工作。

参考:Hermes Agent 官方文档
https://hermes-agent.nousresearch.com/docs/user-guide/features/kanban https://hermes-agent.nousresearch.com/docs/user-guide/features/kanban-tutorial https://hermes-agent.nousresearch.com/docs/user-guide/git-worktrees 下期预告: 第 15 期为任务板加入父子依赖和失败熔断,演示“研究 → 实现 → 复核”任一环节失败时如何自动暂停而不是反复重跑。

③ Claude 模型系列第 14 期:把真实词元计数接入 RPM、ITPM、OTPM 三重预算队列

难度:高级|预计动手时间:35 分钟|成本:词元计数不生成回答,正式请求按模型计费|环境:Python 3.9+ 标准库、Claude API|前置:设置 ANTHROPIC_API_KEY、CLAUDE_MODEL 和账号实际限额

适用场景: 上一期已经用 Count Tokens API 拦截超大输入。本期在批量请求前同时控制 RPM(每分钟请求数)、ITPM(每分钟输入词元)和 OTPM(每分钟输出词元),避免短时突发触发 429。Claude 官方说明限流采用持续补充的令牌桶机制,429 通常会返回 retry-after。

把下面代码保存为 claude_rate_queue.py:

展开完整可复制代码/命令
#!/usr/bin/env python3
"""Claude 批量队列:先真实计数,再按 RPM/ITPM/OTPM 令牌桶排队。"""
import json
import os
import sys
import time
import urllib.error
import urllib.request

API_KEY = os.environ["ANTHROPIC_API_KEY"]
MODEL = os.environ["CLAUDE_MODEL"]
RPM = int(os.getenv("CLAUDE_RPM", "30"))
ITPM = int(os.getenv("CLAUDE_ITPM", "50000"))
OTPM = int(os.getenv("CLAUDE_OTPM", "10000"))
MAX_OUTPUT = int(os.getenv("CLAUDE_MAX_OUTPUT", "800"))
VERSION = "2023-06-01"

class Bucket:
    def __init__(self, capacity: int):
        self.capacity = float(capacity)
        self.tokens = float(capacity)
        self.rate = float(capacity) / 60.0
        self.updated = time.monotonic()

    def wait_for(self, amount: int):
        if amount > self.capacity:
            raise SystemExit(f"单个任务需要 {amount},超过该分钟桶容量 {int(self.capacity)}")
        while True:
            now = time.monotonic()
            self.tokens = min(self.capacity, self.tokens + (now - self.updated) * self.rate)
            self.updated = now
            if self.tokens >= amount:
                self.tokens -= amount
                return
            time.sleep(max(0.05, (amount - self.tokens) / self.rate))

requests_bucket = Bucket(RPM)
input_bucket = Bucket(ITPM)
output_bucket = Bucket(OTPM)

def post(path: str, body: dict):
    req = urllib.request.Request(
        "https://api.anthropic.com" + path,
        data=json.dumps(body, ensure_ascii=False).encode("utf-8"),
        headers={
            "x-api-key": API_KEY,
            "anthropic-version": VERSION,
            "content-type": "application/json",
        },
        method="POST",
    )
    try:
        with urllib.request.urlopen(req, timeout=180) as resp:
            return json.loads(resp.read().decode("utf-8")), dict(resp.headers)
    except urllib.error.HTTPError as exc:
        retry_after = exc.headers.get("retry-after")
        detail = exc.read().decode("utf-8", "replace")
        if exc.code == 429 and retry_after:
            time.sleep(float(retry_after))
            return post(path, body)
        raise SystemExit(f"请求失败,状态码 {exc.code};请检查密钥、额度或请求格式。详情:{detail}")

def run_job(text: str, number: int):
    body = {"model": MODEL, "messages": [{"role": "user", "content": text}]}
    count, _ = post("/v1/messages/count_tokens", body)
    input_tokens = int(count["input_tokens"])

    # 计数请求也占 RPM;正式生成前为请求、输入和最大输出预留预算。
    requests_bucket.wait_for(1)
    input_bucket.wait_for(input_tokens)
    output_bucket.wait_for(MAX_OUTPUT)

    result, headers = post("/v1/messages", {**body, "max_tokens": MAX_OUTPUT})
    answer = "".join(block.get("text", "") for block in result.get("content", []))
    actual_output = int(result.get("usage", {}).get("output_tokens", 0))
    request_id = headers.get("request-id", "未返回")
    print(json.dumps({
        "任务": number,
        "输入词元": input_tokens,
        "输出词元": actual_output,
        "请求ID": request_id,
        "回答": answer,
    }, ensure_ascii=False))

for index, line in enumerate(sys.stdin, 1):
    if line.strip():
        run_job(line.strip(), index)

准备 jobs.txt,每行一个完整请求,然后运行:

展开完整可复制代码/命令
export ANTHROPIC_API_KEY="你的密钥"
export CLAUDE_MODEL="你账号当前可用的模型ID"
export CLAUDE_RPM="30"
export CLAUDE_ITPM="50000"
export CLAUDE_OTPM="10000"
export CLAUDE_MAX_OUTPUT="800"
python claude_rate_queue.py < jobs.txt > results.jsonl

验证方法: results.jsonl 每行应包含任务号、真实输入/输出词元、请求 ID 和回答。把三个限额暂时设得较低,可以看到程序主动等待,而不是瞬间把请求全部发出。

常见坑: 账号限额必须从 Claude Console 读取,不能照抄示例;短时间突发可能在一分钟总量未满时仍触发 429。官方还说明“达到月度消费上限”的 429 可能没有 retry-after,这种情况重试无效;代码只对带 retry-after 的 429 自动等待。为 OTPM 按 max_tokens 预留较保守,适合稳定优先的批处理。

什么情况下不该用: 需要数百并发、持久队列、跨机器协调或严格一次性语义时,不要依赖单进程脚本,应使用数据库队列和集中式限流服务。

参考:Anthropic Claude API 官方文档
https://platform.claude.com/docs/en/api/messages/count_tokens https://platform.claude.com/docs/en/api/rate-limits https://platform.claude.com/docs/en/api/errors 下期预告: 第 15 期读取响应中的限流头动态校准桶容量,并把 429、529、超时和消费上限分别送入重试、降级或人工处理队列。

🤖 AI独立研判(非新闻事实)

以下内容是基于本期已收集事实作出的分析,不是公司公告、监管结论或投资建议。

  • 【AI独立研判】执行框架正在成为可交易、可优化、可审计的独立资产。 Poolside 模型许可、Task-CoEvolve 和 Rillet 审计能力共同说明,价值不只在模型权重,也在模型如何被调用、验证、恢复和解释。未来 1—4 周值得观察大型厂商是否继续购买模型许可或公开框架级评测。
  • 【AI独立研判】团队聊天入口会加速“会议即执行”,也会制造新的权限错觉。 在 Teams 里共同指挥 Copilot 很自然,但参与讨论、补充上下文、修改仓库和批准合并是四种不同权力。企业若只做账号接入、不做权限拆分,事故会从代码错误升级为治理错误。
  • 【AI独立研判】英伟达正把算力需求从市场变量变成可主动塑造的资本循环。 入股数据中心、许可模型、吸纳人才,可以同时扩充供给和需求;好处是项目更快落地,风险是上下游依赖、融资质量和真实利用率更难独立判断。
  • 【AI独立研判】机器人安全的关键动作可能是“停手”,而不是更聪明地猜。 EAFG 的意义在于承认环境证据不足时应探索或停止。这个原则也适用于软件智能体:找不到凭证、目标、文件或确认信息时,应暂停而非自行补全。
  • 【AI独立研判|我可能判断错的地方】 模型能力仍可能因下一次基础架构突破重新成为绝对主导;Poolside 交易与 Cloverleaf 投资也可能主要是财务安排,而非完整的平台战略。研究论文的框架收益可能在真实生产分布上明显缩小。

连载路线图

系列 第 1 期 第 2 期 第 3 期(本轮)
Claude Code 系列 第 12 期:失败分类账 第 13 期:PermissionDenied 记录与安全重试 第 14 期:三类失败统一时间线
Hermes Agent 系列 第 12 期:工作树隔离 第 13 期:工作树+检查点双层恢复 第 14 期:任务卡+验收清单+独立复核
Claude 模型系列 第 12 期:并发与分钟词元预算 第 13 期:Count Tokens 真实预算门禁 第 14 期:RPM/ITPM/OTPM 三重预算队列

编后与核验说明

本期覆盖北京时间 2026 年 8 月 20 日至 22 日可核验的重要变化,共收录 10 条实质资讯和 1 条明确标注的行业风声。正式信息优先引用 DeepSeek、GitHub、OpenAI、arXiv 与官方文档;英伟达相关交易使用 Bloomberg、Reuters 与 TechCrunch 交叉核验,其中许可和投资条款尚缺相关公司完整公告,因此按媒体报道处理。

“正式信息|已确认”表示有官方文件、公司公告或论文原文;“媒体报道|待官方完整确认”表示有具名媒体与可追踪事实,但部分交易和产品细节未完整公开;“行业风声|未经证实”只记录有追踪价值而证据不足的线索。论文结果为作者报告,不等于独立复现结论;厂商跑分也不等于真实业务效果。

网页版相对路径:../../../../原始资料/附件/AI日报/2026/《模型竞赛转向执行层》-2026-08-22.html


金钱豹Ai中转
https://api.jinqianbao.icu/

返回AI日报版块分享到论坛
链接已复制