AI 编程成本失控:别再只数 token,用合并请求成本与自建算力衡量回报

AI 编程成本失控:别再只数 token,用合并请求成本与自建算力衡量回报

Discussion: 新闻晚报

当开发者把一段编程任务交给 AI 智能体,它不会只回答一次:先规划步骤,再生成代码,接着运行测试,发现报错后推翻重写。据 MIT Technology Review 于 2026 年 11 月 2 日刊发的行业分析(由 HPE 提供、非该刊编辑部撰写),单次任务的 token 消耗可达普通对话提示词的 10 至 50 倍,AI 编程成本的核算方式因此被迫改写:按 token 计费的旧账本,正在把最有价值的工作流记成最贵的那一行。

网红八卦

智能体写代码,账单为何成倍膨胀

传统聊天是一次问答,成本曲线平缓;智能体是一条循环流水线。它要读取仓库、拆解需求、生成补丁、跑单元测试,失败后再来一轮。任务越有用,调用次数越多,账单也就越陡。在按 token 计价的前提下,价值创造与费用支出被绑在同一根曲线上,报告直言:「创造价值最多的工作流,也可能变成最昂贵的工作流。」压力已经出现在财务表上。Gartner 在 2026 年 6 月 24 日发布的预测显示,到 2028 年,AI 编程的 token 成本将超过开发者的平均薪资。路透社此前报道称,Uber 在扩大 Claude Code 的使用范围后,据称于 2026 年 4 月就用完了全年 AI 预算;GitHub Copilot 也已从固定月费转向按量计费的 credits 模式。三家信号指向同一件事:用量增长不可逆,计价方式必须升级。

网红翻车

一刀切的配额,压掉的是产出而非浪费

面对账单,企业最直觉的反应是设上限:限制席位、限制调用、上线前层层审批。但报告提醒,这种全面限额会连带掐断真正在交付价值的工作流,而且优化的是错误的数字——每 token 成本衡量的是消耗,不是结果。

直播翻车

支出里确实有浪费:失败重试、死循环、无意义的上下文膨胀。可支出里也有真正的工作:写代码、补测试、跑回归、把功能送上线。一个只统计流量的电表,分不清厂房里是在生产还是在漏电,成本上限同样分不清。报告写道:「问题不在于用了多少 token,而在于这笔投入产出多少完成的工作。」换言之,管控的对象应当是单位交付的成本,而不是绝对消耗量。

主播八卦

换一把尺子:用「每个合并请求成本」衡量 AI 编程

更合适的指标是每个合并请求的成本(cost per merged pull request):把 AI 辅助开发的总成本,除以通过代码评审并成功合并的变更数量。它把花费直接接到产出上,同时必须并行跟踪返工率与缺陷数,否则「更便宜的变更」可能只是把质量问题藏进了下一轮迭代。判断逻辑很清晰:如果 AI 使用量上升,而每个合并请求的成本下降、质量不退化,说明企业正在把更多消耗转化为可用软件;反之,加量只是在给返工付费。

明星翻车
衡量指标实际衡量的是什么主要盲区
---------
每 token 成本消耗量无法区分浪费与真实产出
每席位许可成本人头数完全掩盖重度用户的支出
每活跃开发者成本人均支出与软件是否交付脱节
每合并请求成本通过评审并合并的成果需配合缺陷率与返工率解读

改善这道等式需要两个动作:把昂贵推理留给真正需要的任务,同时压低日常重复工作的单价。

模型分层与网关路由:把最强模型留给最难的一步

智能体编程并不意味着每一步都要调用最强模型。困难的任务规划、新颖的推理链路,值得动用前沿模型;在合规要求高的场景,则使用本地部署的旗舰模型。而代码生成、测试用例编写、反复重构这类高频工作,可以路由到企业自己运维的开源权重模型。中间的调度层是网关:按任务复杂度、数据敏感度、成本与延迟分配请求,让高价推理只出现在配得上它的时刻,而不是给整条工作流贴上高价标签。报告把这套原则概括为一句话:「衡量例外,而非整个工作负载。」开源权重模型让这种切分越来越可行——软件工程基准显示,领先的开源模型在某些任务上已逼近前沿水平,但这不等于在任意代码库与工作流上都等效。上线前,必须用企业自己的代码、测试与验收标准做实测。

自建算力与混合架构:用量越大,单位成本越低

第二个决定是谁拥有算力。租用推理时,每一次调用都写进账单;自建容量时,成本大部分前置为固定资产,调用越多,单次摊销越低。但拥有并不免费:电力、运维、维护、折旧都要计入,真正有意义的数字仍是「满载成本除以合并请求数」。自建还带来一项不会出现在发票上的收益:代码主权。当代码生成与测试留在本地,专有代码不出企业边界,只有经过批准的规划提示词与受管控的例外请求,才通过企业自控的网关发送给外部模型。这正好打开了那些因安全顾虑而迟迟无法落地 AI 的敏感仓库——往往也是收益最大的地方。据该分析披露,HPE 内部的混合 AI 平台已把 150 多个内部应用的日常负载路由到本地运行的开源权重模型(包括 HPE Private Cloud AI),token 成本下降 30% 至 50%。

关键数字含义
------
10–50 倍智能体单任务相对普通提示词的 token 消耗倍数
2028 年Gartner 预测 AI 编程成本超过开发者平均薪资的年份
450 倍同一许可下最重度用户相对最轻用户的消耗差距
4.4 倍重度用户从少数扩至半数员工时,月支出的增幅
30%–50%HPE 混合架构下 token 成本的下降区间

谁在烧 token:5% 的重度用户决定账单

数据反复证明,驱动支出的不是许可数量,而是使用强度:消耗最高的 5% 用户贡献了大部分用量,最重度用户在相同许可下的消耗约为最轻用户的 450 倍。如果重度用户从少数派扩展到全体员工的一半,即便人头不变,月度支出也可能上涨约 4.4 倍。这正是必须测量的原因——平均值会把重度用户藏起来。HPE 建议客户同步跟踪两个指标:一是每活跃开发者成本,避免被全体许可的平均数掩盖;二是每合并请求成本,把 AI 支出与真正上线的软件挂钩。做法是先在现有架构上取得两项基线,再让一个完整开发周期跑在自建容量上;若随用量上升,两项指标没有改善,那么维持现有模式反而是更优解。

FAQ:企业最关心的两个成本问题

Q1:按 token 计费与自建算力,哪种更便宜?

A1: 取决于用量形态。低频或波动大的需求适合 API,无需为闲置基础设施占用资本;持续、可预测的高频需求才让自建划算。多数企业最终会走向混合:困难或间歇性任务用前沿模型 API,重复性负载放在自有容量上,由受管控的网关决定哪些数据可以出企业边界。

Q2:如何判断 AI 编程投入是否真的划算?

A2: 不要只看 token 单价或席位费用。把总成本除以通过评审并合并的变更数,得到每个合并请求成本,同时监控缺陷率与返工率;再叠加每活跃开发者成本观察重度用户的影响。两项指标同时向好,才说明消耗正在转化为交付。

对大多数企业而言,真正的分岔口不是用不用 AI 编程,而是用量增长最终呈现为一张更大的可变成本账单,还是更多运行在自有容量上的软件。以配额压制采用速度的公司,会把成本管住,也会把产出管住。

新闻聚焦

Related Threads - 最新消息

AI 编程成本正被智能体的 10 至 50 倍 token 消耗推高。别再用配额压制用量:改用每个合并请求成本与每活跃开发者成本,配合模型分层与自建推理,衡量真实交付回报。

Tags:
Partners:

相关文章

▸ 塌房事件▸ 明星塌房▸ 人设崩塌▸ 粉丝应援▸ 饭圈文化▸ 饭圈乱象▸ 追星日常▸ 明星动态▸ 明星近况▸ 明星资讯
友情链接:明星新闻 明星档案 明星资料 明星身高 明星年龄 明星老婆 新闻聚焦 新闻热点

🔗 友站推荐

天空新闻独家调查:过去三年英国公民海外毒品走私被捕人数翻了两番 外交部发布旅行警告提醒国民出国注意安全
印度防长辛格在SCO杜尚别峰会强硬表态:国际社会必须坚决集体拆除恐怖主义生态系统,反恐零容忍、无双重标准
前工党大臣约翰·赫顿掌舵泰晤士水公司救援方案
泽连斯基敦促恢复星盾系统 与鲁比奥磋商导弹延迟
TP-Link旗舰Wi-Fi 7路由器直降60美元 Archer BE9700现售189.98美元
DeepMind四AI智能体27小时通关《我的世界》
民调:仅33%支持两次注射死刑后再次行刑 | 美国死刑争议
泽连斯基批美国未预警空袭,欧盟武器被扣 | 俄乌冲突
成人金融素养测试:你能答对AP高中生理财考题吗?| CBS News
史泰博遭中国团伙入侵,窃取逾500万美元礼品卡