Uber已经把AI智能体用到了软件研发的各个环节,目前超过70%的代码合并请求是智能体做的,内部还搭了3600多个技能,每天自动跑3万多次。另外,通过一系列成本优化,每次会话成本比峰值降了52%。这套玩法,对准备上云或正在做AI落地的企业来说,挺有借鉴意义。
AI代码生成,不只是写代码
Uber的智能体并不只是自动补全代码那么简单。它已经渗透进软件开发的整个生命周期,从写代码、做代码审查到合并,每一步都能参与。现在,超过70%的代码合并请求都由智能体生成;公司内部已经搭建了3600多个智能体技能,每天执行3万多次调用。这套体系运转起来后,2026年2月到8月,每周活跃使用智能体的员工数增加了7倍,每周请求量也涨了9.4倍。比较有意思的是,AI总支出从4月开始就稳住了,并没有随着用量同步上涨。
成本怎么压下来的?
Uber把每次智能体会话的成本拆成了六个能独立度量的部分。其中,采用率和参与度需要持续提升,而中间三项涉及智能体自主完成的额外工作,才是优化的重点。他们搭建了基于真实业务任务的基准测试,在统一的Harness上跑多个模型,再迁到帕累托最优配置。比如切换到uReview模型后,F1分数提高的同时,每个PR的处理成本反而降了。
结果也很直接:在固定模型的前提下,每1000次模型请求的成本比峰值下降了约34%,每次会话成本比6月份的高峰期降了52%。
三招降低token消耗
- 默认开启40万token的自动压缩,推理强度设为中等;提示词缓存的TTL从5分钟延长到1小时,子智能体仍然用5分钟。
- 将内部和第三方MCP工具统一通过网关映射成CLI命令,再按需检索加载工具,避免一次性往上下文里塞太多东西。在代码模式下,原本多个模型轮次的循环改成了脚本,token消耗能降低50%以上,批量工作流最多能省90%。
- 他们还建了一个拥有2400万节点、8000万边的AI上下文图谱,整合了30多个内部系统的数据。智能体可以根据图谱快速定位到需要的信息,既缩短了执行时间,也减少了瞎猜和出错。
企业上云和AI落地的启示
Uber这套优化思路对普通企业同样有参考价值。比如你用云服务器ECS跑AI负载,可以先从控制token和上下文入手,再选对模型和工具链。很多企业在企业上云时总担心成本失控,其实可以借鉴Uber的分解法:把成本拆开,单独度量,再逐个优化。像阿里云代金券、阿里云优惠这些资源,能领就领,但更关键的是架构设计。
如果不想自己从零折腾,也可以找专业的阿里云代理商来帮忙规划。比如易枫顺 - 阿里云官方旗舰级代理商,可以提供云资源选型和成本优化建议,帮你少走弯路。
FAQ
Q: Uber的AI代码生成真的能替代程序员吗?
A: 不能简单地说能替代。智能体负责生成和合并代码,但定义问题、审核结果、处理异常这些关键环节仍然离不开程序员。Uber的思路是把重复劳动丢给智能体,让人专注在更高价值的决策上。
Q: 怎么降低AI应用的token成本?
A: 可以参考Uber的三招:设置自动压缩和合理的缓存TTL、用工具检索按需加载、把多轮循环改成脚本。另外,持续用真实业务数据做基准测试,才能找到性价比最高的模型配置。
Q: 中小企业也能复制Uber的AI优化方案吗?
A: 可以,但前提是得有清晰的使用场景和度量指标。不用一上来就追求复杂的图谱和工具网关,可以先从控制上下文、选对模型开始。如果资源有限,借助阿里云代理商这类服务商做架构规划和成本优化,会更高效。
关于易枫顺
深圳市易枫顺网络科技有限公司是阿里云官方旗舰级代理商。提供云服务器ECS、云数据库RDS、对象存储OSS等阿里云全系产品官方特惠折扣与代金券申请,以及多云成本优化、企业上云一站式服务。客服热线:19520841949 - 易枫顺
来源:InfoQ