谷歌预算感知框架:优化 AI 智能体计算与工具资源分配的创新方案

谷歌预算感知框架:优化 AI 智能体计算与工具资源分配的创新方案

一套针对 AI 智能体的预算优化框架,通过 “预算追踪器(Budget Tracker)” 与 “预算感知测试时扩展(BATS)” 两大核心技术,解决 AI 智能体在工具调用与计算资源分配中的低效问题,为企业部署 AI 智能体提供 “成本可控、性能可预期” 的实践路径,尤其适配网页浏览、信息检索等依赖多轮工具交互的场景。

该框架的研发背景源于传统 AI 智能体工具使用的核心痛点:工具调用(如网页浏览、API 请求)直接增加 Token 消耗、延长上下文长度、提升时间延迟与 API 成本,且单纯增加资源投入无法保证性能提升 —— 在深度研究等任务中,缺乏预算感知的智能体常陷入 “无效探索”,例如花费 10-20 次工具调用深挖无关线索,最终发现路径无效,造成资源浪费。研究团队通过构建统一成本指标(整合内部 Token 消耗与外部工具交互成本),验证了 “预算感知” 对资源优化的关键价值。

核心技术一:轻量级插件 “预算追踪器(Budget Tracker)”

预算追踪器是一款无需额外训练、仅通过提示词实现的轻量级模块,核心功能是向 AI 智能体实时传递资源状态信号,帮助其动态调整工具使用策略。其工作机制包括:

  1. 政策引导:提供简洁的预算规则说明,明确不同预算区间对应的工具使用建议(如高预算时可深入探索,低预算时优先验证关键线索);
  2. 实时反馈:在智能体响应的每一步,同步展示已消耗资源与剩余预算,让后续推理步骤基于最新资源状态决策;
  3. 多范式适配:支持 “顺序扩展(模型迭代优化输出)” 与 “并行扩展(多独立运行结果聚合)” 两种推理范式,兼容 ReAct(推理 + 行动)等主流智能体工作流。

实验数据显示,在 BrowseComp、HLE-Search 等信息检索数据集上(使用 Gemini 2.5 Pro、Claude Sonnet 4.5 等模型),预算追踪器可减少 40.4% 的搜索调用、19.9% 的浏览调用,整体成本降低 31.3%,且性能随预算增加持续提升,而传统 ReAct 方法在达到一定预算阈值后性能便陷入停滞。

核心技术二:综合框架 “预算感知测试时扩展(BATS)”

为进一步提升资源优化效果,研究团队推出 BATS 框架,通过多模块协同实现 “预算 – 性能” 的最优平衡,核心目标是在任意给定预算下最大化智能体性能。其架构包含三大关键模块:

  1. 规划模块:接收用户查询与工具预算后,制定结构化行动方案,明确工具调用优先级与步骤分配,避免盲目探索;
  2. 验证模块:在智能体生成候选答案后,验证答案可靠性,并基于剩余预算决策 “继续深挖当前线索” 或 “转向替代路径”;
  3. 预算追踪器(集成):全程实时更新资源使用与剩余预算,为规划、验证模块提供数据支撑。

BATS 的工作流程为:规划模块制定工具调用计划→执行工具并将结果纳入推理上下文→验证模块评估候选答案→预算耗尽时,由 “LLM 评判器” 从所有验证答案中筛选最优结果。实验验证显示,以 Gemini 2.5 Pro 为基础模型时,BATS 在 BrowseComp 数据集准确率达 24.6%(传统 ReAct 仅 12.6%),HLE-Search 数据集准确率 27.0%(ReAct 为 20.5%);成本效益方面,BATS 在 BrowseComp 数据集以约 23 美分的成本实现高准确率,而并行扩展基线需超 50 美分才能达到相近效果。

行业价值与应用场景

该框架的推出为企业 AI 智能体部署解决了 “成本不可控” 的关键难题,尤其适用于长周期、数据密集型的企业场景,例如:

  • 复杂代码库维护:智能体可在有限预算内优先验证关键代码模块,避免无意义的代码检索;
  • 尽职调查与合规审计:通过预算分配聚焦高风险领域,减少冗余文档查询;
  • 竞争格局研究:动态调整行业信息检索策略,在预算约束下高效获取核心竞品数据。

研究团队指出,这一技术突破让 “高成本工作流商业化” 成为可能,同时印证了 “推理与经济成本深度绑定” 的未来趋势 ——AI 模型需同时具备 “任务推理能力” 与 “资源价值判断能力”。结合补充研究(如谷歌 DeepMind 2024 年关于 “测试时计算优化” 的成果),预算感知策略与 “根据任务难度动态分配计算资源” 的思路高度契合,未来或与预训练优化形成互补,在简单任务中通过测试时预算优化降低成本,在复杂任务中结合预训练提升性能。

原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/gu-ge-yu-suan-gan-zhi-kuang-jia-you-hua-ai-zhi-neng-ti-ji

Like (0)
王 浩然的头像王 浩然作者
Previous 21小时前
Next 17小时前

相关推荐

发表回复

Please Login to Comment