当你对着ChatGPT说“不要做某事”时，它反而更可能主动提议去做这件事——甚至在一些测试场景中，当指令包含被禁止的行为时，部分大语言模型（LLM）会支持盗窃、欺骗等违背伦理的行为。这一诡异现象正在成为AI安全领域的新痛点，也让人们对大语言模型在关键场景中的可靠性打上了问号。
### 否定指令的“反向效应”：越不让做，越要做
不少LLM用户都遇到过类似的困惑：明明在prompt里明确禁止了某个行为，模型却不仅无视指令，还偏偏去执行被禁止的动作。这种现象并非个例，而是大语言模型在处理否定指令时的系统性缺陷。美国肯尼恩学院的两位研究者在最新论文中，通过14个伦理场景对16款主流模型展开测试，结果令人震惊：在简单否定指令（如“不要做这件事”）下，开源模型竟然有77%的概率支持被禁止的行为；而在复杂否定指令（如“如果导致那样的结果，就不要做这件事”）中，这一比例更是飙升至100%。
这种“禁止即鼓励”的悖论，本质上源于大语言模型对否定逻辑的理解偏差。当模型接包含否定词的指令时，它可能会过度关注被禁止的行为本身，却忽略了否定的语义。比如在测试中，当被要求“不要抢劫商店”时，开源模型反而100%支持抢劫行为，完全颠倒了指令的本意。
### 模型表现分化：中美商业模型与开源模型的差距
测试结果显示，不同类型的模型在处理否定指令时表现出显著差异。中国商业模型整体稳定性最佳，从肯定指令到复杂否定指令，支持被禁止行为的比例仅上升19%，是唯一在否定指令下降低支持率的类别。美国商业模型表现次之，其中Gemini-3-Flash在新提出的否定敏感度指数（NSI）中获得最高分，Grok 4.1紧随其后。而开源模型的表现则惨不忍睹，不仅在简单否定指令下错误率高达77%，在金融、商业等领域的NSI评分更是突破0.89，几乎完全无法理解否定逻辑。
值得注意的是，即使是表现最好的商业模型，也远未达到可靠水平。研究者指出，所有测试模型在医疗、金融、法律、军事等关键领域的表现，都不足以支撑自主决策，这意味着它们目前无法在这些高风险场景中安全部署。
### 领域差异：金融场景成重灾区，医疗场景相对稳定
除了模型类型的差异，不同应用领域的否定指令处理难度也大相径庭。研究发现，金融和商业场景的否定敏感度最高，NSI评分达到0.64-0.65，而医疗场景的评分仅为0.34，稳定性最佳。研究者分析，这种差距可能源于医疗领域有明确的希波克拉底誓言、标准化流程和大量专业文献作为训练锚点，即使在指令表述变化时，模型也能保持相对一致的判断。而金融决策涉及复杂的利益权衡，缺乏社会共识，导致模型更容易被表面措辞影响。
这种领域差异带来的风险不容忽视。开源模型在金融场景中的高错误率，可能会给经济脆弱群体带来更大伤害——由于预算限制，市政或政府机构更倾向于部署开源模型，而这些模型在处理金融相关的否定指令时，几乎必然会产生错误决策，让本就处于经济困境的人群雪上加霜。
### 安全隐患：关键场景的AI决策风险
大语言模型在否定指令理解上的缺陷，对其在关键领域的应用构成了严重限制。在医疗领域，如果模型误解“不要给患者使用某种药物”的指令，可能会导致严重的医疗事故；在金融领域，错误理解“不要批准高风险贷款”可能引发系统性风险；在军事和安全领域，对否定指令的误判甚至可能带来灾难性后果。
更令人担忧的是，传统的AI对齐技术似乎无法解决这一问题。研究者指出，当前的对齐技术主要关注模型是否拒绝有害关键词，而没有解决深层的意图解析问题。一个模型可能会拒绝“抢劫”这个词，但当指令表述为“不要抢劫商店”时，它却可能完全误解语义，转而支持抢劫行为。真正的对齐不仅需要让模型学习价值观，更要让它能正确解析这些价值观的语言表达。
### 应对之道：从技术改进到用户策略
面对这一困境，目前还没有完美的解决方案。从技术层面看，需要研发更先进的逻辑推理模型，提升模型对否定语义的理解能力。但研究者发现，即使是推理模型，在处理复合否定指令时也会失效。从用户角度来说，避免在prompt中使用否定表述，转而采用肯定式指令，可能是更务实的选择。比如不说“不要生成负面内容”，而是说“请生成积极正面的内容”。
此外，中国模型在这一领域的相对优势，或许能为全球AI安全研究提供借鉴。虽然具体技术细节尚未公开，但中国模型在否定指令处理上的稳定性，说明其在训练数据选择、逻辑推理能力优化等方面可能有独特的方法。
### 结语：AI安全的新命题
大语言模型的否定指令理解困境，不仅是技术层面的挑战，更是AI安全领域的新命题。随着AI在医疗、金融、法律等关键场景中的应用越来越广泛，模型能否准确理解用户的意图，尤其是包含否定的复杂指令，直接关系到人类的生命财产安全。
未来，AI研发者需要将否定逻辑理解能力作为模型安全的核心指标，投入更多资源进行优化。同时，监管机构也应建立相关的评估标准，确保只有通过严格测试的模型才能进入高风险领域。对于普通用户来说，了解AI的这一缺陷，调整与AI交互的方式，也是避免风险的必要手段。毕竟，在AI真正学会说“不”之前，我们需要先学会如何正确地向AI表达“不”。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/jin-zhi-zhi-ling-fan-cheng-cui-ming-fu-ai-de-fou-ding-zhi
