在人工智能领域，大型语言模型（LLMs）已成为不可或缺的工具，它们广泛应用于聊天机器人、内容创作、编程辅助等多个场景。然而，用户在使用这些模型时经常遇到一个问题：LLMs有时会跳过部分指令，尤其是当指令较长或多步骤时。这种跳过指令的行为会导致输出不完整或不准确，进而引发混淆，削弱用户对AI系统的信任。本文将深入探讨LLMs跳过指令的原因，并提出相应的解决方案。
一、LLMs跳过指令的原因
- 有限的注意力容量：LLMs通过读取输入文本中的令牌序列来工作。当输入较短时，模型的注意力能够很好地集中。但随着输入长度的增加或指令的复杂化，模型的注意力会减弱，导致对后续部分的关注不足，从而跳过指令。
- 指令复杂性：同时给出多个指令会增加处理复杂性。当指令重叠或冲突时，模型可能会感到困惑，试图回答所有问题但产生模糊或矛盾的响应，从而遗漏某些指令。
- 人类似的局限性：LLMs在设计上存在一些与人类相似的局限性。例如，人类在阅读长篇或重复文本时可能会失去焦点。同样，LLMs在处理更多令牌时也可能忘记后续指令。
- 训练数据偏差：LLMs在训练过程中接触到的简单指令示例较多，而复杂、多步骤的指令示例较少。因此，模型更倾向于遵循训练数据中更常见的简单指令，从而跳过复杂指令。
- 令牌限制：LLMs有固定的令牌限制，当输入超过这些限制时，超出部分的指令会被忽略。
二、基于SIFo 2024研究成果的LLMs顺序指令处理能力
Sequential Instructions Following（SIFo）Benchmark 2024是一项重要研究，它测试了模型在需要逐步完成指令的任务上的表现，如文本修改、问答、数学和遵守安全规则等。研究结果显示，即使是GPT-4和Claude-3等最先进的LLMs也难以正确完成所有指令，尤其是在指令较长或复杂时。LLMs在遵循指令方面面临的主要问题包括理解指令含义、将多个指令逻辑地联系在一起以保持响应清晰，以及产生完整且准确的答案。
三、解决LLMs跳过指令的方法
- 任务分解：将长或多步骤的提示分解为更小、更专注的部分。每次提供一两个指令，以帮助模型保持更好的注意力，并减少遗漏步骤的可能性。
- 使用编号列表或项目符号组织指令：通过明确的格式（如编号列表或项目符号）组织指令，有助于表明每个项目都是一个独立的任务，从而提高响应涵盖所有指令的可能性。
- 明确且无误导性的指令：指令应清晰陈述完成每个步骤的要求，避免使用模糊或含糊不清的语言。提示应明确指示不得跳过任何步骤。
- 为高风险或关键任务使用单独提示：对于准确性和完整性至关重要的任务，应将每个指令作为单独提示提交。虽然这种方法可能会增加交互时间，但它显著提高了获得完整和精确输出的可能性。
- 高级策略平衡完整性和效率：为了提高效率同时保持清晰度和减少跳过的指令，可以采用以下高级提示技术：
- 批量指令与清晰格式和明确标签：将多个相关指令组合成一个提示，但应使用编号或标题将它们分开。提示还应指示模型完全且按顺序响应所有指令。
- 链式思维风格提示：引导模型按顺序处理每个任务步骤并提供答案之前进行推理。这有助于确保不遗漏任何步骤，减少跳过指令的机会，并提高完整性。
- 添加完成指令和提醒：明确提醒模型“回答每个任务完全”、“不要跳过任何指令”和“清晰分开你的答案”。这些提醒有助于模型在合并多个指令时专注于完整性。
- 测试不同模型和参数设置：并非所有LLMs在遵循多个指令方面表现相同。建议评估各种模型，以确定哪些模型在多步骤任务中表现出色。此外，调整参数（如温度、最大令牌数和系统提示）可能会进一步改善响应的焦点和完整性。测试这些设置有助于根据特定任务要求调整模型行为。
- 微调模型和利用外部工具：应对包含多步骤或顺序指令的数据集微调模型，以提高其对复杂提示的遵循能力。技术如带有人类反馈的强化学习（RLHF）可以进一步增强指令遵循。对于高级用例，集成外部工具（如API、特定于任务的插件或检索增强生成（RAG）系统）可以提供额外上下文和控制，从而提高输出的可靠性和准确性。
四、结语
大型语言模型是强大的工具，但在处理长或复杂的提示时可能会跳过指令。这源于它们读取输入和集中注意力的方式。为了获得更好、更可靠的结果，指令应清晰、简单且组织良好。将任务分解为更小部分、使用列表、提供直接指令有助于模型完全遵循步骤。虽然为关键任务使用单独提示可以提高准确性，但会花费更多时间。此外，高级提示方法（如链式思维和清晰格式）有助于平衡速度和精确度。测试不同模型和微调也可以改善结果。这些策略将帮助用户获得一致、完整的答案，并使AI工具在实际工作中更有用。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/da-xing-yu-yan-mo-xing-wei-he-hui-tiao-guo-zhi-ling-ru-he
