在当今时代，AI代理似乎已成为一种必然趋势。大多数企业已经在使用至少一种AI应用，并可能已经部署了至少一个代理系统，同时计划在未来试点多个代理协同工作流程。然而，在如此众多的AI应用中实现管理，尤其是在长期内构建互操作性，可能会变得令人难以承受。要实现这样的代理未来，就需要创建一个可行的编排框架来指导不同的代理。
对AI应用和编排的需求催生了一个新的竞争领域，专注于提供框架和工具的公司正在赢得客户。如今，企业可以在LangChain、LlamaIndex、Crew AI、微软的AutoGen和OpenAI的Swarm等编排框架提供商之间做出选择。此外，企业还需要考虑要实施的编排框架类型。他们可以选择基于提示的框架、面向代理的工作流引擎、检索和索引框架，甚至是端到端编排。
由于许多组织才刚刚开始试验多个AI代理系统，或希望构建一个更大的AI生态系统，因此在选择最适合其需求的编排框架时，一些特定的标准成为了他们首要考虑的因素。编排领域的这一大堆选项进一步推动了该领域的发展，鼓励企业探索所有潜在的编排其AI系统的选择，而不是强迫他们适应其他方案。虽然这看似令人不知所措，但企业可以通过查看选择编排框架的最佳实践，并找出哪种做法最适合他们，来理清思路。
编排平台的关键组件
编排平台Orq在一篇博客文章中指出，AI管理系统包括四个关键组件：用于一致模型交互的提示管理、集成工具、状态管理以及用于跟踪性能的监控工具。
构建编排层的最佳实践
对于计划开启编排之旅或改进现有编排的企业而言，来自Teneo和Orq等公司的专家至少指出了以下五个最佳实践作为起点。
- 明确业务目标：企业应从自身的业务需求出发。他们需要AI应用或代理做什么，以及这些计划如何支持他们的工作？明确这一点将有助于更好地了解他们的编排需求以及所需的工具类型。
- 选择与目标对齐的工具和大型语言模型（LLMs）：一旦明确了业务需求，团队就必须清楚他们需要从编排系统中获得什么，并确保这些是他们首先寻找的功能。
- 列出对编排层的需求并确定优先级：集成、工作流程设计、监控和可观察性、可扩展性、安全性和合规性通常是企业的首要考虑因素。了解哪些因素对企业最重要，将更好地指导他们如何构建编排层。
- 了解现有系统及其如何集成到新层中：由于大多数企业计划将AI代理添加到现有工作流程中，因此最佳做法是了解哪些系统需要成为编排堆栈的一部分，并找到集成效果最佳的平台。
- 了解数据管道：企业需要了解他们的数据管道，以便比较他们正在监控的代理的性能。
信息控制的重要性
LangChain在一篇博客文章中指出，企业应清楚传递给模型的信息或工作是什么。在使用框架时，企业需要完全控制传递给LLM的内容，以及完全控制运行哪些步骤以及以什么顺序运行（以便生成传递给LLM的上下文）。LangChain通过LangGraph优先考虑了这一点，LangGraph是一个低级编排框架，没有隐藏提示，也没有强制执行的“认知架构”。这为用户提供了完全的控制权，以便他们执行所需的上下文工程。
随着AI技术的不断发展和普及，构建强健的AI编排层将成为越来越多企业的必然选择。通过遵循上述最佳实践，企业可以更好地实现AI代理的协同工作，提高AI应用的效率和效果，从而为企业创造更大的价值。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/cong-zhi-ling-hun-luan-dao-qing-xi-ru-he-gou-jian-qiang
