黑箱 AI 已不足够:企业咨询转向基础模型的原因与实践

黑箱 AI 已不足够:企业咨询转向基础模型的原因与实践

在如今任何人都能快速部署大语言模型(LLM)的时代,AI 技术本身已不再是核心差异点,真正能形成竞争力的是 AI 所依托的机构知识。对于主导运营转型的内部顾问与合作伙伴而言,当他们的建议会影响供应链、制造、财务等核心职能的整合流程时,绝不能容忍 AI 给出虚构的指导方案。SAP Business AI 生成式 AI 副总裁兼首席产品官娜塔莉・韩(Natalie Han)明确表示:“基础 AI(Grounded AI)是必不可少的,尤其是在 SAP 生态系统内开展价值数百万美元的转型项目时,准确性容不得半点马虎。” 而检索增强生成(RAG)技术以及将 AI 响应锚定在可信企业知识中的能力,能够确保代码解读的准确性、最佳实践指导的可靠性以及核心决策支持的严谨性,这正是将真正信任融入 AI 驱动咨询的关键所在。

以 SAP 为顾问打造的全基础 AI 助手 SAP Joule 为例,其在实际应用中展现出巨大价值。SAP Joule 拥有数太字节的机构数据,这些数据会被持续整理和更新,顾问借助它不仅能获取最新的 SAP 最佳实践与方法论,还能显著加快项目交付速度。娜塔莉・韩透露,借助 SAP Joule,返工时间减少了 14%,每位顾问每天可节省 1.5 小时;像威普罗(Wipro)这样的早期使用者估计,其顾问的手动工作时间已节省了 700 万小时,充分体现出基础 AI 在提升咨询效率上的显著作用。

SAP Joule 的研发与优化历程,是基础 AI 构建的典型范本。SAP Business AI 首席架构师萨钦・考拉(Sachin Kaura)介绍,2023 年 GPT 模型通过模拟律师资格考试引发 LLM 处理海量上下文能力的热议后,SAP 团队开始思考:如何打造一个能在 SAP 生态系统内自主导航复杂环境的 AI 协作者工具?由于 SAP 生态系统及其相关领域本体论和分类法极为庞大复杂,团队最初让前沿 LLM 模型参加 SAP 顾问的认证考试,结果并不理想。但经过大量上下文调优,并聚焦为合作伙伴生态系统创造价值后,SAP Joule 如今在这类认证考试中得分稳定在 95% 以上。娜塔莉・韩补充道,团队不仅从数据层面进行测试,还联合所有顾问打造了 “黄金数据集”—— 这是一种非确定性、基于语言且完全依托人类顾问专业知识的数据集,通过与整个咨询团队合作,手动为所有产品标注该数据集,如今它已成为 SAP 所有 AI 相关工作的基础。

为确保 SAP Joule 能实时提供最新信息,SAP 构建了最先进的索引流水线,一旦有新的 SAP 文档和发布内容公布,就会立即推送至模型中,让顾问可以放心依赖其提供的最新指导。萨钦・考拉解释,这背后是数据科学家与工程师借助大量 SAP 底层技术完成的纯工程工作,包括利用 SAP 业务基础层、文档基础服务以及众多定制系统,确保能及时掌握系统内的最新动态。同时,SAP Business AI 得到了董事会层面的支持,使其成为全公司优先级项目,而非单一团队的任务。SAP 内部与学习部门、社区、帮助中心、产品团队及顾问团队等内容所有者建立了紧密合作,共同持续更新 SAP 注释、知识库文章(KBA)等专有内容以及反映 SAP 不断演进最佳实践的领域特定指导,这使得 SAP Joule 能利用这些实时更新的数据,近乎实时地提供答案,省去顾问原本需花费数小时的研究工作,避免因早期规划未契合最新功能而导致项目后期受阻。

企业级安全保障方面,SAP 始终将相关性、可靠性和责任感作为产品构建的核心。作为起源于欧洲的企业,SAP 严格遵守《通用数据保护条例》(GDPR)及其他欧盟企业法规,高度重视数据隐私。SAP Business AI 的核心是 AI 基础架构 —— 这一 AI 操作系统通过内置的安全、伦理和编排机制管理 AI,借助自动化与智能技术管理生命周期、优化资源并增强韧性。所有 SAP 及其客户使用的 LLM 都在该 AI 基础架构内运行,有效防止私有和专有数据泄露。此外,SAP 还从企业层面应对偏见、伦理和安全问题,通过人机协同实现相互制衡。萨钦・考拉提到,SAP 拥有企业级安全框架,还会进行提示注入和防护测试;AI 基础架构内构建的编排层会对输入进行匿名化处理和内容审核,防止恶意内容注入,确保交付给客户的输出符合 SAP 生态系统需求、与客户所咨询领域相关,而非大语言模型生成的无用冗余信息。从框架层到应用层再到产品标准,这套完整的工具体系以及全面的测试流程,是产品安全的关键保障,也只有在此基础上,产品才能交付给客户与合作伙伴使用。

展望未来,SAP 团队认为目前对 LLM 和智能体 AI 潜力的挖掘还只是冰山一角。获取知识仅是起点,未来团队将深入了解客户的 SAP 系统,助力客户推进实施与转型进程。产品团队和工程师正致力于让 SAP Joule 更具变革性,使其能挖掘更多洞察、连接客户系统、理解并优化流程,包括生成代码和处理客户代码迁移。下一阶段的核心目标是增加第二层基础 —— 在已将 SAP Joule 依托于 SAP 机构知识的基础上,进一步融入每位客户自身的专有上下文,如历史系统数据、流程设计、实施蓝图和内部文档。这一升级将使 SAP Joule 从 “了解 SAP” 转变为 “了解客户”,提供与企业实际运营方式相契合的指导。萨钦・考拉形象地表示:“这相当于在 SAP 知识之上叠加企业自身的知识基础,从而提供更准确、更相关的指导。” 原本可能丢失的信息将被 SAP Joule 整合,系统会对这些信息进行处理,确保在合适的时间以恰当的方式呈现给用户。此外,扩展后的基础能力还能让 SAP Joule 根据顾问角色(如架构师、功能顾问或技术顾问)调整指导内容,不仅能回答通用问题,还能针对客户特定配置提供解决方案,进而生成更多洞察并采取更多行动,持续拓展基础 AI 在企业咨询领域的应用边界。

从行业背景来看,黑箱 AI 的局限性是推动企业咨询转向基础模型的重要原因。黑箱 AI 的内部运作机制不透明,用户虽能获取输入与输出结果,却无法知晓背后的逻辑,这在涉及重大决策的企业咨询场景中存在巨大风险 —— 可能导致错误推理、误导信息,甚至引发合规问题。而基础模型通过依托可信知识源、构建透明可追溯的决策流程,有效解决了黑箱 AI 的信任危机。同时,随着企业咨询对精准性、合规性和定制化需求的不断提升,基础模型能通过整合企业专有知识、实时更新行业最佳实践,为咨询提供更贴合实际需求的支持,这也成为企业咨询领域转向基础模型的必然趋势。

原创文章,作者:王 浩然,如若转载,请注明出处:https://www.dian8dian.com/hei-xiang-ai-yi-bu-zu-gou-qi-ye-zi-xun-zhuan-xiang-ji-chu

Like (0)
王 浩然的头像王 浩然作者
Previous 2025年12月20日
Next 2025年12月21日

相关推荐

发表回复

Please Login to Comment