2026/9/17 17:49:50
FEATURED · 精选文章 
1. 44.7% 延迟下降背后Qwen 4B 智能体的 Token 账到底记在哪当你把 Postgres 默认 planner 在 Join Order Benchmark 上跑出的 join 密集查询交给 Qwen 4B 查询优化智能体时先别急着复现 44.7% 总延迟下降先在 TaoToken 官网https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_intro拿 Key再把调用 Base URL 固定为https://taotoken.net/api。这样做的原因很直接延迟下降只是一个结果指标真正决定这套方案能不能长期跑下去的是 Qwen 4B 智能体在查询计划推理时消耗的 Token 账。如果 Key、Base URL、模型名、重试策略没有对齐你看到的 44.7% 可能混入了网络抖动、缓存命中、模型切换等噪声最后既无法复现也无法解释成本。这条来自 csdn_ugc 的底稿核心任务是用 SFT 与智能体 RL 训练 4B 模型生成比 Postgres 默认快约 81% 的查询计划。原文实验在 Join Order Benchmark 的 113 条 join 密集查询上取得了 1.81x 几何平均加速和 44.7% 总延迟下降。作为 Token 成本观察者我更关心的是Qwen 4B 在生成查询计划时每一步推理消耗了多少 prompt token、completion token失败重试了几轮执行反馈有没有被塞回上下文以及这些 Token 最终如何映射到账单。本文不会把训练细节写成论文摘要而是把接入、配置、JOB 对照实验和 Token 账单记录做成可跟做的步骤。你需要准备三样可复现产出延迟记录表、Token 账单片段、JOB 对照结果。在开始之前先明确边界不要让你的智能体直接连接 Oracle 或生产库。JOB 数据集在本地回放SQL 由你自己在本地执行智能体只负责根据 schema、统计信息和候选计划做推理。TaoToken 在这里承担的是模型调用入口不是数据库代理。你的目标是把「Postgres 默认计划耗时」「Qwen 4B 智能体推理耗时」「计划执行耗时」拆成三条线然后再去看 44.7% 总延迟下降到底来自哪一段。2. 复现延迟下降前先去 TaoToken 拿 Key 并锁定 Base URL复现任何模型调用实验第一步都不是写 prompt而是把访问凭据和端点固定下来。打开 TaoToken 官网https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_key完成注册并进入控制台创建 API Key。Key 不要写死在代码里也不要把真实 Key 提交到 Git。本文所有示例统一使用占位符YOUR_API_KEY。调用时 Base URL 使用https://taotoken.net/api注意Base URL 不加 UTM 参数。UTM 只用于官网入口和 deep link方便区分流量来源不要把它拼到 API 端点上。建议先在本地 shell 中设置环境变量后续 Claude Code、Codex、CC Switch 和你的 Python 脚本都从环境变量读取export TAOTOKEN_API_KEYYOUR_API_KEY export TAOTOKEN_BASE_URLhttps://taotoken.net/api如果你习惯用.env文件也可以这样写TAOTOKEN_API_KEYYOUR_API_KEY TAOTOKEN_BASE_URLhttps://taotoken.net/api然后加一行.env到.gitignore。接下来做一次最小连通性验证确认 Key 和 Base URL 可用。下面这个请求只是测试不代表 Qwen 4B 查询优化智能体的正式调用格式curl -sS https://taotoken.net/api/v1/chat/completions \ -H Authorization: Bearer YOUR_API_KEY \ -H Content-Type: application/json \ -d { model: your-model-id, messages: [ {role: user, content: 只回复 pong} ], max_tokens: 8 }模型名请按控制台模型列表替换不要照抄示例中的your-model-id。如果返回 401优先检查 Key 是否复制完整、是否有多余空格如果返回 404检查 Base URL 是否误写成带/v1或带 UTM 的地址。TaoToken 的 Base URL 固定为https://taotoken.net/api具体路径由工具或 SDK 拼接。把这一步跑通后再去配置 Claude Code 和 Codex否则你会在工具层排错浪费大量时间。3. Claude Code 配置settings.json 里的 ANTHROPIC_* 只服务 Claude CodeClaude Code 的接入方式与 Codex 不同。Claude Code 使用settings.json和环境变量常见字段是ANTHROPIC_BASE_URL、ANTHROPIC_AUTH_TOKEN、ANTHROPIC_MODEL。如果你要让 Claude Code 走 TaoToken可以在用户级或项目级settings.json中这样配置{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_AUTH_TOKEN: YOUR_API_KEY, ANTHROPIC_MODEL: claude-sonnet-4-5, ANTHROPIC_SMALL_FAST_MODEL: claude-haiku-4-5 } }如果你的 Claude Code 版本要求模型 ID 带日期后缀请以控制台或 Claude Code 文档为准替换ANTHROPIC_MODEL。这里最重要的两点是ANTHROPIC_BASE_URL必须是https://taotoken.net/apiANTHROPIC_AUTH_TOKEN必须是你的 TaoToken Key。不要把ANTHROPIC_*字段写到 Codex 的config.toml里也不要指望 Codex 会读取这些变量。两者配置体系不同混用会导致工具报「缺少 provider」或「认证失败」。配置完成后在终端验证claude --version claude 请用一句话解释什么是 join order如果 Claude Code 能正常返回再进入你的 JOB 查询优化工作流。建议在项目根目录放一个settings.local.json把本地覆盖项写入其中但不要提交真实 Key。一个更安全的做法是只写变量名把真实值留在 shell 环境里{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_AUTH_TOKEN: ${TAOTOKEN_API_KEY}, ANTHROPIC_MODEL: claude-sonnet-4-5 } }不同 Claude Code 版本对变量展开支持不同如果${TAOTOKEN_API_KEY}不生效就改用启动脚本注入环境变量。关键原则不变Claude Code 用ANTHROPIC_*Codex 用config.toml不要互相套用。4. Codex 配置config.toml 单独写 provider不混 ANTHROPIC_*Codex 的配置入口是config.toml。它通常需要你定义一个 model provider并指定base_url、env_key和wire_api。如果你要让 Codex 走 TaoToken可以这样写model gpt-5-codex model_provider taotoken [model_providers.taotoken] name TaoToken base_url https://taotoken.net/api env_key TAOTOKEN_API_KEY wire_api chat注意这里没有ANTHROPIC_BASE_URL也没有ANTHROPIC_AUTH_TOKEN。Codex 使用env_key指定的环境变量读取 Key。你需要在 shell 中设置export TAOTOKEN_API_KEYYOUR_API_KEY然后验证codex --version codex 用一句话说明什么是索引扫描如果 Codex 报 provider 找不到检查model_provider是否和[model_providers.taotoken]名称一致如果报 401检查TAOTOKEN_API_KEY是否已 export如果报 404检查base_url是否误加了/v1或 UTM 参数。wire_api字段按你的 Codex 版本支持填写常见为chat或responses不确定时先查本地codex --help或项目文档。不要把 Claude Code 的ANTHROPIC_*配置复制到config.toml这是最常见的串配置错误。5. CC Switch 三件套供应商、模型映射、密钥引用分开管如果你同时使用 Claude Code、Codex 和多个供应商CC Switch 这类切换工具能减少手工改配置的次数。但切换工具本身不会帮你纠正错误配置。建议把 CC Switch 的三件套固定为供应商、模型映射、密钥引用。第一件是供应商。Claude Code 侧的供应商字段对应ANTHROPIC_BASE_URLCodex 侧对应base_url。两边都指向 TaoToken 时值都应该是https://taotoken.net/api。不要一边写https://taotoken.net/api另一边写带/v1的地址否则日志很难对齐。第二件是模型映射。Claude Code 用ANTHROPIC_MODELCodex 用model。这两个字段不要交叉。Claude Code 的模型名和 Codex 的模型名可能不同按各自控制台或文档填写。第三件是密钥引用。Claude Code 常用ANTHROPIC_AUTH_TOKENCodex 常用env_key TAOTOKEN_API_KEY。你可以统一用TAOTOKEN_API_KEY作为底层环境变量但在工具配置里按各自字段引用。不要在 Codex 里写ANTHROPIC_AUTH_TOKEN也不要在 Claude Code 里写env_key。一个 CC Switch 的 profile 检查清单如下[ ] Claude Code profile: ANTHROPIC_BASE_URL https://taotoken.net/api ANTHROPIC_AUTH_TOKEN YOUR_API_KEY ANTHROPIC_MODEL 按控制台填写 [ ] Codex profile: base_url https://taotoken.net/api env_key TAOTOKEN_API_KEY model 按控制台填写 [ ] Shell: TAOTOKEN_API_KEY 已 export [ ] 确认没有把 ANTHROPIC_* 写入 Codex config.toml切换后不要只看工具是否启动跑一次最小对话测试再跑一次 JOB 查询优化调用确认请求确实走到 TaoToken。你可以在账单或控制台中看到对应调用记录后再开始正式实验。6. JOB 对照实验延迟记录表、Token 账单片段与 113 条 join 密集查询现在进入可复现部分。原始任务是在 Join Order Benchmark 的 113 条 join 密集查询上对比 Postgres 默认 planner 与 Qwen 4B 查询优化智能体生成的计划。你要产出三份材料延迟记录表、Token 账单片段、JOB 对照结果。不要连生产库所有 SQL 在本地 JOB 数据集上执行。第一步准备本地 JOB 数据与查询文件。每条查询先跑 Postgres 默认计划记录 planning time 和 execution timeEXPLAIN (ANALYZE, BUFFERS, FORMAT JSON) SELECT ... FROM ... JOIN ... WHERE ...;把结果中的Planning Time和Execution Time写入延迟记录表。建议字段如下查询编号默认计划规划耗时(ms)默认计划执行耗时(ms)默认总耗时(ms)智能体规划耗时(ms)智能体执行耗时(ms)智能体总耗时(ms)prompt_tokenscompletion_tokens重试次数JOB-001JOB-002...JOB-113第二步调用 Qwen 4B 查询优化智能体。调用时 Base URL 使用https://taotoken.net/apiKey 使用YOUR_API_KEY。智能体输入通常包括目标 SQL、相关表 schema、列统计信息、索引信息、候选 join 顺序要求。输出是候选计划或 join order 建议。你要记录每次调用的 usage 字段。一个 Token 账单片段示例{ request_id: req_job_001, model: qwen-4b-agent, usage: { prompt_tokens: 0, completion_tokens: 0, total_tokens: 0 }, latency_ms: 0, retry_count: 0 }这里的数字先用 0 占位跑完一条查询就填一条。不要手动估算 Token优先使用接口返回的 usage 或控制台账单。如果你在 prompt 里塞入了完整 schema、历史执行反馈和多个候选计划prompt_tokens 会明显上升。Token 成本观察者要特别关注重试次数一次重试可能让 completion_tokens 翻倍但总延迟只下降一点这时 44.7% 的总体下降可能被少数查询拉高。第三步计算几何平均加速和总延迟下降。注意原始实验说的是 1.81x 几何平均加速和 44.7% 总延迟下降不是算术平均。你可以用下面的 Python 片段核对import math baseline_ms [1200, 980, 1500] agent_ms [700, 520, 810] ratios [b / a for b, a in zip(baseline_ms, agent_ms)] geo_speedup math.exp(sum(math.log(r) for r in ratios) / len(ratios)) total_latency_drop 1 - sum(agent_ms) / sum(baseline_ms) print(f几何平均加速: {geo_speedup:.3f}x) print(f总延迟下降: {total_latency_drop:.1%})把 113 条查询逐条填入后你会得到自己的 JOB 对照结果。如果几何平均加速接近 1.81x总延迟下降接近 44.7%说明你的调用路径、模型版本和记录口径与原始任务比较接近。如果差距很大优先检查三件事是否用了同一套 JOB 查询、是否把智能体推理时间计入了总延迟、是否在失败后静默重试导致 Token 账单被低估。第四步汇总 Token 账单。建议按查询编号聚合而不是只看一天总量。你可以生成如下片段查询编号 prompt_tokens completion_tokens 总Token 重试次数 JOB-001 0 0 0 0 JOB-002 0 0 0 0 ... JOB-113 0 0 0 0 合计 0 0 0 0这份账单要和延迟记录表放在一起看。有些查询可能延迟下降明显但 Token 消耗也高有些查询延迟下降一般但 Token 消耗低。作为 Token 成本观察者你要找的是「延迟下降 / Token 消耗」比值较高的查询模式而不是只盯总延迟。7. 成本观察者的结论44.7% 之后Token 单价与重试率才是长期变量Qwen 4B 查询优化智能体在 JOB 上实现 44.7% 总延迟下降说明 4B 级别的模型经过 SFT 与智能体 RL 后确实能在 join 密集查询上给出比 Postgres 默认 planner 更优的计划。原文路线通过 off-policy 蒸馏 GPT-6 Astra 轨迹和智能体强化学习把 Qwen 4B 训练成查询优化智能体最终取得约 1.81x 几何平均加速。但从 Token 成本观察者视角看延迟下降不是终点而是起点。真正决定这套方案能否持续使用的是每次查询计划推理消耗的 Token、重试率和模型调用稳定性。为了把 44.7% 变成可复现、可对账的结果你需要坚持三件事。第一固定 Base URL 为https://taotoken.net/api不要在实验中途切换端点。第二把 Claude Code 和 Codex 分开配置Claude Code 用settings.json与ANTHROPIC_*Codex 用config.toml与 provider不要把ANTHROPIC_*套到 Codex。第三每次调用都记录 usage 和重试次数把延迟记录表、Token 账单片段、JOB 对照结果作为固定产出。这样即使后续更换模型版本或调整 prompt你也能判断延迟变化和成本变化各自来自哪里。如果你还没有开始建议按这个转化路径操作先进入模型对话https://taotoken.net/models/detail/chat?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_chat确认模型可用再看 Coding Planhttps://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_plan选择合适的调用方式然后创建 API Keyhttps://taotoken.net/console/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_keys最后参考 Claude Code 文档https://taotoken.net/doc/ClaudeCodeAnthropic?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_doc完成工具侧配置。也别忘了回到 TaoToken 官网https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_end确认最新模型与控制台入口可用。最后提醒一句不要让智能体直连生产库也不要把 JOB 实验的 SQL 直接搬到线上执行。本地回放、本地执行、本地记录才能让 44.7% 延迟下降和 Token 账都经得起复查。把 Key 拿好把 Base URL 固定为https://taotoken.net/api把每一次 Qwen 4B 查询计划推理的 Token 消耗记下来你得到的就不只是一个加速数字而是一套能持续优化的成本观测方法。
44.7% 延迟下降：Qwen 4B 智能体调用 TaoToken 的 Token 账
1. 44.7% 延迟下降背后Qwen 4B 智能体的 Token 账到底记在哪当你把 Postgres 默认 planner 在 Join Order Benchmark 上跑出的 join 密集查询交给 Qwen 4B 查询优化智能体时先别急着复现 44.7% 总延迟下降先在 TaoToken 官网https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_intro拿 Key再把调用 Base URL 固定为https://taotoken.net/api。这样做的原因很直接延迟下降只是一个结果指标真正决定这套方案能不能长期跑下去的是 Qwen 4B 智能体在查询计划推理时消耗的 Token 账。如果 Key、Base URL、模型名、重试策略没有对齐你看到的 44.7% 可能混入了网络抖动、缓存命中、模型切换等噪声最后既无法复现也无法解释成本。这条来自 csdn_ugc 的底稿核心任务是用 SFT 与智能体 RL 训练 4B 模型生成比 Postgres 默认快约 81% 的查询计划。原文实验在 Join Order Benchmark 的 113 条 join 密集查询上取得了 1.81x 几何平均加速和 44.7% 总延迟下降。作为 Token 成本观察者我更关心的是Qwen 4B 在生成查询计划时每一步推理消耗了多少 prompt token、completion token失败重试了几轮执行反馈有没有被塞回上下文以及这些 Token 最终如何映射到账单。本文不会把训练细节写成论文摘要而是把接入、配置、JOB 对照实验和 Token 账单记录做成可跟做的步骤。你需要准备三样可复现产出延迟记录表、Token 账单片段、JOB 对照结果。在开始之前先明确边界不要让你的智能体直接连接 Oracle 或生产库。JOB 数据集在本地回放SQL 由你自己在本地执行智能体只负责根据 schema、统计信息和候选计划做推理。TaoToken 在这里承担的是模型调用入口不是数据库代理。你的目标是把「Postgres 默认计划耗时」「Qwen 4B 智能体推理耗时」「计划执行耗时」拆成三条线然后再去看 44.7% 总延迟下降到底来自哪一段。2. 复现延迟下降前先去 TaoToken 拿 Key 并锁定 Base URL复现任何模型调用实验第一步都不是写 prompt而是把访问凭据和端点固定下来。打开 TaoToken 官网https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_key完成注册并进入控制台创建 API Key。Key 不要写死在代码里也不要把真实 Key 提交到 Git。本文所有示例统一使用占位符YOUR_API_KEY。调用时 Base URL 使用https://taotoken.net/api注意Base URL 不加 UTM 参数。UTM 只用于官网入口和 deep link方便区分流量来源不要把它拼到 API 端点上。建议先在本地 shell 中设置环境变量后续 Claude Code、Codex、CC Switch 和你的 Python 脚本都从环境变量读取export TAOTOKEN_API_KEYYOUR_API_KEY export TAOTOKEN_BASE_URLhttps://taotoken.net/api如果你习惯用.env文件也可以这样写TAOTOKEN_API_KEYYOUR_API_KEY TAOTOKEN_BASE_URLhttps://taotoken.net/api然后加一行.env到.gitignore。接下来做一次最小连通性验证确认 Key 和 Base URL 可用。下面这个请求只是测试不代表 Qwen 4B 查询优化智能体的正式调用格式curl -sS https://taotoken.net/api/v1/chat/completions \ -H Authorization: Bearer YOUR_API_KEY \ -H Content-Type: application/json \ -d { model: your-model-id, messages: [ {role: user, content: 只回复 pong} ], max_tokens: 8 }模型名请按控制台模型列表替换不要照抄示例中的your-model-id。如果返回 401优先检查 Key 是否复制完整、是否有多余空格如果返回 404检查 Base URL 是否误写成带/v1或带 UTM 的地址。TaoToken 的 Base URL 固定为https://taotoken.net/api具体路径由工具或 SDK 拼接。把这一步跑通后再去配置 Claude Code 和 Codex否则你会在工具层排错浪费大量时间。3. Claude Code 配置settings.json 里的 ANTHROPIC_* 只服务 Claude CodeClaude Code 的接入方式与 Codex 不同。Claude Code 使用settings.json和环境变量常见字段是ANTHROPIC_BASE_URL、ANTHROPIC_AUTH_TOKEN、ANTHROPIC_MODEL。如果你要让 Claude Code 走 TaoToken可以在用户级或项目级settings.json中这样配置{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_AUTH_TOKEN: YOUR_API_KEY, ANTHROPIC_MODEL: claude-sonnet-4-5, ANTHROPIC_SMALL_FAST_MODEL: claude-haiku-4-5 } }如果你的 Claude Code 版本要求模型 ID 带日期后缀请以控制台或 Claude Code 文档为准替换ANTHROPIC_MODEL。这里最重要的两点是ANTHROPIC_BASE_URL必须是https://taotoken.net/apiANTHROPIC_AUTH_TOKEN必须是你的 TaoToken Key。不要把ANTHROPIC_*字段写到 Codex 的config.toml里也不要指望 Codex 会读取这些变量。两者配置体系不同混用会导致工具报「缺少 provider」或「认证失败」。配置完成后在终端验证claude --version claude 请用一句话解释什么是 join order如果 Claude Code 能正常返回再进入你的 JOB 查询优化工作流。建议在项目根目录放一个settings.local.json把本地覆盖项写入其中但不要提交真实 Key。一个更安全的做法是只写变量名把真实值留在 shell 环境里{ env: { ANTHROPIC_BASE_URL: https://taotoken.net/api, ANTHROPIC_AUTH_TOKEN: ${TAOTOKEN_API_KEY}, ANTHROPIC_MODEL: claude-sonnet-4-5 } }不同 Claude Code 版本对变量展开支持不同如果${TAOTOKEN_API_KEY}不生效就改用启动脚本注入环境变量。关键原则不变Claude Code 用ANTHROPIC_*Codex 用config.toml不要互相套用。4. Codex 配置config.toml 单独写 provider不混 ANTHROPIC_*Codex 的配置入口是config.toml。它通常需要你定义一个 model provider并指定base_url、env_key和wire_api。如果你要让 Codex 走 TaoToken可以这样写model gpt-5-codex model_provider taotoken [model_providers.taotoken] name TaoToken base_url https://taotoken.net/api env_key TAOTOKEN_API_KEY wire_api chat注意这里没有ANTHROPIC_BASE_URL也没有ANTHROPIC_AUTH_TOKEN。Codex 使用env_key指定的环境变量读取 Key。你需要在 shell 中设置export TAOTOKEN_API_KEYYOUR_API_KEY然后验证codex --version codex 用一句话说明什么是索引扫描如果 Codex 报 provider 找不到检查model_provider是否和[model_providers.taotoken]名称一致如果报 401检查TAOTOKEN_API_KEY是否已 export如果报 404检查base_url是否误加了/v1或 UTM 参数。wire_api字段按你的 Codex 版本支持填写常见为chat或responses不确定时先查本地codex --help或项目文档。不要把 Claude Code 的ANTHROPIC_*配置复制到config.toml这是最常见的串配置错误。5. CC Switch 三件套供应商、模型映射、密钥引用分开管如果你同时使用 Claude Code、Codex 和多个供应商CC Switch 这类切换工具能减少手工改配置的次数。但切换工具本身不会帮你纠正错误配置。建议把 CC Switch 的三件套固定为供应商、模型映射、密钥引用。第一件是供应商。Claude Code 侧的供应商字段对应ANTHROPIC_BASE_URLCodex 侧对应base_url。两边都指向 TaoToken 时值都应该是https://taotoken.net/api。不要一边写https://taotoken.net/api另一边写带/v1的地址否则日志很难对齐。第二件是模型映射。Claude Code 用ANTHROPIC_MODELCodex 用model。这两个字段不要交叉。Claude Code 的模型名和 Codex 的模型名可能不同按各自控制台或文档填写。第三件是密钥引用。Claude Code 常用ANTHROPIC_AUTH_TOKENCodex 常用env_key TAOTOKEN_API_KEY。你可以统一用TAOTOKEN_API_KEY作为底层环境变量但在工具配置里按各自字段引用。不要在 Codex 里写ANTHROPIC_AUTH_TOKEN也不要在 Claude Code 里写env_key。一个 CC Switch 的 profile 检查清单如下[ ] Claude Code profile: ANTHROPIC_BASE_URL https://taotoken.net/api ANTHROPIC_AUTH_TOKEN YOUR_API_KEY ANTHROPIC_MODEL 按控制台填写 [ ] Codex profile: base_url https://taotoken.net/api env_key TAOTOKEN_API_KEY model 按控制台填写 [ ] Shell: TAOTOKEN_API_KEY 已 export [ ] 确认没有把 ANTHROPIC_* 写入 Codex config.toml切换后不要只看工具是否启动跑一次最小对话测试再跑一次 JOB 查询优化调用确认请求确实走到 TaoToken。你可以在账单或控制台中看到对应调用记录后再开始正式实验。6. JOB 对照实验延迟记录表、Token 账单片段与 113 条 join 密集查询现在进入可复现部分。原始任务是在 Join Order Benchmark 的 113 条 join 密集查询上对比 Postgres 默认 planner 与 Qwen 4B 查询优化智能体生成的计划。你要产出三份材料延迟记录表、Token 账单片段、JOB 对照结果。不要连生产库所有 SQL 在本地 JOB 数据集上执行。第一步准备本地 JOB 数据与查询文件。每条查询先跑 Postgres 默认计划记录 planning time 和 execution timeEXPLAIN (ANALYZE, BUFFERS, FORMAT JSON) SELECT ... FROM ... JOIN ... WHERE ...;把结果中的Planning Time和Execution Time写入延迟记录表。建议字段如下查询编号默认计划规划耗时(ms)默认计划执行耗时(ms)默认总耗时(ms)智能体规划耗时(ms)智能体执行耗时(ms)智能体总耗时(ms)prompt_tokenscompletion_tokens重试次数JOB-001JOB-002...JOB-113第二步调用 Qwen 4B 查询优化智能体。调用时 Base URL 使用https://taotoken.net/apiKey 使用YOUR_API_KEY。智能体输入通常包括目标 SQL、相关表 schema、列统计信息、索引信息、候选 join 顺序要求。输出是候选计划或 join order 建议。你要记录每次调用的 usage 字段。一个 Token 账单片段示例{ request_id: req_job_001, model: qwen-4b-agent, usage: { prompt_tokens: 0, completion_tokens: 0, total_tokens: 0 }, latency_ms: 0, retry_count: 0 }这里的数字先用 0 占位跑完一条查询就填一条。不要手动估算 Token优先使用接口返回的 usage 或控制台账单。如果你在 prompt 里塞入了完整 schema、历史执行反馈和多个候选计划prompt_tokens 会明显上升。Token 成本观察者要特别关注重试次数一次重试可能让 completion_tokens 翻倍但总延迟只下降一点这时 44.7% 的总体下降可能被少数查询拉高。第三步计算几何平均加速和总延迟下降。注意原始实验说的是 1.81x 几何平均加速和 44.7% 总延迟下降不是算术平均。你可以用下面的 Python 片段核对import math baseline_ms [1200, 980, 1500] agent_ms [700, 520, 810] ratios [b / a for b, a in zip(baseline_ms, agent_ms)] geo_speedup math.exp(sum(math.log(r) for r in ratios) / len(ratios)) total_latency_drop 1 - sum(agent_ms) / sum(baseline_ms) print(f几何平均加速: {geo_speedup:.3f}x) print(f总延迟下降: {total_latency_drop:.1%})把 113 条查询逐条填入后你会得到自己的 JOB 对照结果。如果几何平均加速接近 1.81x总延迟下降接近 44.7%说明你的调用路径、模型版本和记录口径与原始任务比较接近。如果差距很大优先检查三件事是否用了同一套 JOB 查询、是否把智能体推理时间计入了总延迟、是否在失败后静默重试导致 Token 账单被低估。第四步汇总 Token 账单。建议按查询编号聚合而不是只看一天总量。你可以生成如下片段查询编号 prompt_tokens completion_tokens 总Token 重试次数 JOB-001 0 0 0 0 JOB-002 0 0 0 0 ... JOB-113 0 0 0 0 合计 0 0 0 0这份账单要和延迟记录表放在一起看。有些查询可能延迟下降明显但 Token 消耗也高有些查询延迟下降一般但 Token 消耗低。作为 Token 成本观察者你要找的是「延迟下降 / Token 消耗」比值较高的查询模式而不是只盯总延迟。7. 成本观察者的结论44.7% 之后Token 单价与重试率才是长期变量Qwen 4B 查询优化智能体在 JOB 上实现 44.7% 总延迟下降说明 4B 级别的模型经过 SFT 与智能体 RL 后确实能在 join 密集查询上给出比 Postgres 默认 planner 更优的计划。原文路线通过 off-policy 蒸馏 GPT-6 Astra 轨迹和智能体强化学习把 Qwen 4B 训练成查询优化智能体最终取得约 1.81x 几何平均加速。但从 Token 成本观察者视角看延迟下降不是终点而是起点。真正决定这套方案能否持续使用的是每次查询计划推理消耗的 Token、重试率和模型调用稳定性。为了把 44.7% 变成可复现、可对账的结果你需要坚持三件事。第一固定 Base URL 为https://taotoken.net/api不要在实验中途切换端点。第二把 Claude Code 和 Codex 分开配置Claude Code 用settings.json与ANTHROPIC_*Codex 用config.toml与 provider不要把ANTHROPIC_*套到 Codex。第三每次调用都记录 usage 和重试次数把延迟记录表、Token 账单片段、JOB 对照结果作为固定产出。这样即使后续更换模型版本或调整 prompt你也能判断延迟变化和成本变化各自来自哪里。如果你还没有开始建议按这个转化路径操作先进入模型对话https://taotoken.net/models/detail/chat?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_chat确认模型可用再看 Coding Planhttps://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_plan选择合适的调用方式然后创建 API Keyhttps://taotoken.net/console/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_keys最后参考 Claude Code 文档https://taotoken.net/doc/ClaudeCodeAnthropic?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_doc完成工具侧配置。也别忘了回到 TaoToken 官网https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentjob_qwen4b_end确认最新模型与控制台入口可用。最后提醒一句不要让智能体直连生产库也不要把 JOB 实验的 SQL 直接搬到线上执行。本地回放、本地执行、本地记录才能让 44.7% 延迟下降和 Token 账都经得起复查。把 Key 拿好把 Base URL 固定为https://taotoken.net/api把每一次 Qwen 4B 查询计划推理的 Token 消耗记下来你得到的就不只是一个加速数字而是一套能持续优化的成本观测方法。 
