本地 vs 云端 AI Agent：token 消耗与隐私成本权衡

这也反映出SEO正在从“技巧驱动”转向“价值驱动”。

模型间效率差异同样显著，Kimi-K2 和 Claude-Sonnet-4.5 在相同任务上平均比 GPT-5 多消耗超过 150 万 token。这件事比表面看起来复杂得多：2026 年企业级规模化部署的真实 TCO 远不止 token 费用本身。

最近，一篇arXiv论文系统剖析了八个前沿LLM在SWE-bench上的agentic coding轨迹，揭示出人类专家评定的任务复杂度与实际token消耗之间仅呈现弱相关，Kendall τ系数约为0.32。许多被标注为“简单”的编码任务却意外消耗大量token，而部分公认复杂的修复反而在某些模型上跑得相对高效。这一发现直接暴露了human-AI gap：我们评估的是认知负荷，AI Agent面对的却是上下文吞吐和试错路径的随机性。

最近，一篇arXiv论文系统剖析了八个前沿大模型在SWE-bench Verified上的agentic coding轨迹，结果显示人类专家评定的任务难度与实际token消耗之间仅呈弱相关（Kendall τ约0.32）。许多被标记为“简单”的任务却消耗了远超预期的token，而部分公认“困难”的任务在某些模型上反而运行得相对高效。这个发现暴露了人类认知与AI代理实际计算努力之间的显著gap。

arXiv 最新论文《How Do AI Agents Spend Your Money?》对八个前沿大模型在 SWE-bench Verified 数据集上的 Agentic Coding 轨迹进行了系统分析，结果显示 Agentic 任务的 token 消耗远超普通代码推理或聊天场景，高出约 1000 倍以上。更关键的是，成本主要由输入 token 主导，而非输出。

模型间的token效率差异进一步放大了这一问题。在相同SWE-bench类任务上，某些前沿模型的平均消耗明显高于效率更高的选项，输入token占比常超过50%。人类专家评定的任务难度与实际token成本相关性微弱，模型自身对消耗的预测相关性也仅在0.4左右且系统性低估。这一点目前行业内仍有不同声音，但实测数据已足够提醒我们，盲目依赖迭代循环容易让预算在不可预测的随机性中蒸发。

云端AI Agent的最大优势在于性能和易用性。以GPT-5、Claude-Sonnet系列为代表的前沿模型，在复杂编码场景下准确率更高，无需自己搭硬件，直接通过API就能上手。开发者可以快速构建多步Agent流程，处理SWE-bench这类真实软件工程问题时往往能取得更好结果。但论文也显示，不同模型间token效率差异明显，有些模型在相同任务上比GPT-5多消耗超过150万token。

更关键的是，成本主要由输入token驱动，而非输出，这意味着Agent在多次迭代、上下文读取和工具调用过程中反复“吃掉”大量输入token。

许多开发者在初次尝试AI Agent时，往往被其在SWE-bench等基准上自主完成任务的表现吸引，认为初始代码生成环节效率突出。主流讨论中，模型能力越强，整体成本似乎就越可控，网上也常看到“一次复杂任务烧掉百万token”的吐槽。但这些观察多停留在生成阶段的表面，忽略了完整开发流程中后续迭代的真实开销。

除了模型间差异，论文还指出，人为评定的任务难度与实际token消耗仅呈弱相关。人类直觉认为的“复杂Bug”，Agent执行时消耗的计算努力可能完全不同。这解释了为什么一些看似简单的修复任务会突然烧掉巨量token。类似地，前沿模型普遍无法准确预测自身token使用，预测相关性最高仅0.39，且系统性低估真实成本。这意味着预算规划往往不靠谱，值得持续跟踪，现在下结论为时尚早。

从OpenHands的轨迹示例看，agent常常在早期就积累大量上下文，后续每一次决策都需在越来越长的历史中进行。低效循环会持续推高输入token，即使最终未能解决问题，账单已然产生。这也解释了为何社区反馈“同一个框架、同一个模型，费用波动极大”。开发者在实际部署时，需重点监控输入上下文膨胀与轨迹随机性，否则成本很容易失控。

红中麻将微信群的进展，更多体现在概念层面。