在当今这个科技日新月异的时代，人工智能（AI）正以前所未有的速度改变着各行各业。从提高生产效率到优化工作流程，AI的潜力令人瞩目。然而，随着我们对这种新型技术的依赖日益加深，一个不容忽视的问题逐渐浮出水面：AI并非万能，其输出结果也并非总是准确无误。我们将这些错误称为“AI幻觉”。
一、AI幻觉：一个不容忽视的问题
AI幻觉，简而言之，就是AI在处理信息时产生的误解或错误。这些错误可能表现为回答数学问题时出错，或者提供关于政府政策的错误信息。在高度监管的行业中，AI幻觉可能导致高昂的罚款和法律纠纷，更不用说对客户满意度的影响了。据估计，现代大型语言模型（LLM）产生幻觉的频率高达1%至30%，这意味着每天都会有大量错误答案生成。因此，企业在利用AI技术时，必须谨慎选择合适的工具。
二、垃圾输入，垃圾输出
你是否还记得小时候玩过的“传话”游戏？一句话从第一个人传到最后一个人时，往往会变得面目全非。AI从输入中学习的方式与此类似。LLM生成的响应只与它们接收到的信息质量一样好。如果AI系统建立在不准确、过时或带有偏见的数据上，那么其输出结果也会反映出这些问题。
因此，LLM的性能在很大程度上取决于其输入的质量，尤其是在缺乏人工干预或监督的情况下。随着自主AI解决方案的日益普及，我们必须确保为这些工具提供正确的数据上下文，以避免产生幻觉。这需要对数据进行严格的训练，或者能够以某种方式引导LLM，使其仅从提供的上下文中响应，而不是从互联网上的任何地方拉取信息。
三、幻觉为何重要
对于面向客户的企业而言，准确性至关重要。如果员工依赖AI来合成客户数据或回答客户查询，他们必须相信这些工具生成的响应是准确的。否则，企业将面临声誉受损和客户流失的风险。如果聊天机器人向客户提供不充分或错误的答案，或者员工需要花时间核实聊天机器人的输出，客户可能会选择转向其他企业。人们不希望与提供虚假信息的企业打交道，他们希望得到快速可靠的支持，这意味着确保这些交互的准确性至关重要。
四、对抗AI幻觉的策略
- 理解动态意义理论：动态意义理论（DMT）认为，两个人（在这里是用户和AI）之间的理解正在被交换。然而，语言和主题知识的局限性会导致对响应解释的错位。在AI生成的响应中，底层算法可能尚未完全具备准确解释或生成与人类期望相符的文本的能力。这种差异可能导致表面看似准确但缺乏深度或细微差别的响应。
- 行业特定数据和政策的运用：企业AI应用的表现可以通过使用特定于行业和企业的数据和政策来改进。与仅从互联网上公开可用的内容中提取信息的通用LLM相比，这些模型可以提供更准确和相关的结果。
- 直接人类反馈：模型还可以通过直接的人类反馈进行改进，特别是设计为响应语调和语法的代理型解决方案。这种反馈可以帮助AI更好地理解人类语言的细微差别，并生成更准确的响应。
- 严格测试：在AI工具面向消费者之前，对其进行严格测试是至关重要的。这包括使用基于回合的对话来测试整个流程，其中LLM扮演角色的部分。这使企业能够更好地评估AI模型在真实场景中的表现，并在发布之前进行必要的调整。
五、语境的关键性
对于AI技术的开发者和使用者来说，认识到动态意义理论在接收到的响应以及输入中使用的语言动态中的重要性至关重要。记住，语境是关键。作为人类，我们的大部分语境是通过非言语方式理解的，无论是通过肢体语言、社会趋势还是我们的语调。我们人类有可能在回答问题时产生幻觉。但在当前的AI迭代中，我们的人类到人类的理解并不容易在文字中被语境化，因此我们需要对我们提供的书面语境更加挑剔。
六、选择合适的AI工具
并非所有AI模型都同样出色。随着技术的发展以完成越来越复杂的任务，对于希望实施的企业来说，识别能够改善客户互动和体验的工具至关重要。解决方案提供商有责任确保他们已竭尽全力减少幻觉发生的可能性。潜在买家也有自己的角色要扮演。通过优先考虑经过严格训练和测试、能够从专有数据（而不是互联网上的任何内容）中学习的解决方案，企业可以最大限度地利用AI投资，为员工和客户创造成功。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/zu-zhi-ai-bian-zao-gu-shi-yu-fang-huan-jue-zhi-nan
