AI Agent 编码任务为何疯狂烧钱？输入 Token 主导成本的 arXiv 论文解析

本篇重点分享几条被反复验证的观察结论。

大多数讨论仍停留在代理带来的效率跃升上。在SWE-bench这类真实软件工程基准中，顶级代理系统已展现出不俗表现，许多开发者相信，用好Agentic Coding就能让AI像资深工程师一样独立处理复杂项目，从而显著减少人力投入。主流观点倾向乐观，认为这标志着从简单聊天助手向真正工作伙伴的转变，用对它就能放大生产力。

提示缓存针对重复输入特别有效。很多平台支持prompt caching，把不变的系统指令设为前缀，缓存后输入token价格能降到原来的十分之一。每隔几轮用廉价模型总结历史，用摘要替换完整记录，避免每轮都塞全量历史。这一步单拿出来就能省25-40%，直接对准输入token的重复浪费。

最近一篇arXiv论文将AI代理在编码任务中的token消耗模式首次系统性地摊开分析。研究追踪了八个前沿大模型在SWE-bench Verified基准上的完整轨迹，发现代理任务的token开销远超普通代码推理或聊天场景。这不仅暴露了成本黑箱，还直接挑战了行业对代理效率的乐观预期。AI代理看似能处理复杂多步流程，实际却在反复交互中悄然推高支出，表面繁荣之下隐藏着更棘手的经济矛盾。

最近一篇 arXiv 论文把 AI Agent 在编码任务中的 token 消耗分布清晰地呈现出来。研究基于 ChatDev 框架和 GPT-5 模型，对 30 个软件开发任务的执行轨迹进行分析，发现代码审查阶段平均占据了 59.4% 的总 token，成为整个 SDLC 中最主要的消耗点。这远超初始设计（2.4%）和编码（8.6%）等前期阶段，输入 token 占比整体达到 53.9%，凸显出迭代验证而非一次性生成的成本本质。

模型路由是性价比最高的一招。不是所有步骤都需要最贵的顶级模型。复杂规划用Claude或GPT系列确保方向正确，子任务执行、简单代码生成就切换到Kimi或小型高效模型。在LangGraph里设置路由规则，根据复杂度或上下文长度自动分流，一个修复GitHub issue的agent就能把整体成本降30-50%。

论文还揭示了token消耗的高度随机性。同一个任务，多次运行的总消耗可能相差高达30倍。更高消耗并不必然带来更高准确率，中等成本区间往往已接近峰值，继续增加投入的边际收益迅速递减。这意味着单纯追求“多思考”或更长输出，在预算上并不总是划算。

许多开发者在实际部署AI编码Agent时，都曾经历过这样的场景：原本针对SWE-bench上一个简单的GitHub issue修复任务，基于OpenHands框架启动后，自纠正机制却让整个过程陷入反复迭代。每一轮反思都将历史轨迹、工具调用结果和先前输出完整塞回提示，token消耗从最初几千迅速膨胀到数十万甚至百万级别。同一任务不同运行路径下，消耗差异可达30倍以上，导致API账单突然失控，不少团队被迫暂停或缩减Agent规模。

行业趋势显示，2026-2028 年整体 token 使用量预计呈现指数级增长，若优化滞后，“token 危机”或将制约部署节奏。

你部署AI Agent时，是不是总盯着输出token定价，以为控制生成长度就能省钱？结果账单拉出来一看，输入token却占了大头——这正是大多数团队正在踩的坑。

本地开源Agent借助Ollama等工具部署后，token消耗接近零，主要开销转为电费和硬件折旧，数据完全不出本地网络，内网延迟更低，适合高频长期运行。一些开发者实测显示，常规编码任务迁移本地后月电费可控在百元级别，相比云端数万消耗，长期节省明显。隐私安全得到最大保障，尤其对敏感业务逻辑而言，这一点是云端难以比拟的。但开源模型与前沿闭源仍有性能差距，复杂多文件任务中准确率可能打折，初始部署和运维门槛也不低。

在排名代发飞机【seo1268】好友聊天，输入“一元一分手机红中麻将群”咨询客服，娱乐游戏作为民间很受欢迎的纸牌玩法，乐趣集中在快节奏的刺激感、心理博弈的张力，这两种玩法的规则几乎一学就会，不用记复杂的牌型搭配，就算是新手也能快速上手，梦想是前行的灯塔，哪怕渺小，也能指引方向。不必因梦想遥远就轻言放弃，逐梦的路上，本就布满挑战。拆分目标，步步前行，哪怕每天只前进一小步，也是在靠近理想。不惧旁人的质疑，不畏前路的漫长，坚守初心，全力以赴。只要心中有梦，眼里有光，脚下有路，终能跨越山海，奔赴心之所向的远方。的实际案例中，灰度范围的设定往往体现了团队的风险偏好。