当我们看到ChatGPT、Claude等大语言模型给出条理清晰的分步推理过程时，往往会默认这是AI一步步推导答案的“思考轨迹”。但来自印度的一项最新研究却打破了这个认知：这些看似严谨的推理步骤，绝大多数时候只是“装饰”——AI早在给出推理前就已经确定了最终答案。
这场关于思维链（CoT）推理真实性的争论，其实在去年就已拉开序幕。当时Anthropic、苹果等机构的研究就指出，所谓的“推理型AI”生成的分步解释，可能并不反映其真实决策过程。但各方观点交锋后，问题仍悬而未决：思维链到底是为了安抚用户的“表面功夫”，还是AI真正的推理证据？
如今，印度信息技术学院（IIITA）和国家电子与信息技术学院（NIELIT）的两位研究者，提出了一种低成本、可复制的测试方法，为这场争论提供了明确的实证依据。他们对ChatGPT-5.4、Claude Opus 4.6-R、DeepSeek-V3.2等10款主流闭源API模型，以及多款参数在0.8B到8B之间的小型开源模型展开测试，覆盖情感分类、数学应用题、主题分类和医疗问答四大任务。
测试基于三个核心指标：必要性（移除单个推理步骤是否会改变答案）、充分性（单个步骤是否足以推导出正确答案）、顺序敏感性（打乱步骤顺序是否影响结果）。如果是真正的分步推理，应该呈现“高必要性、低充分性”的特征——每个步骤都不可或缺，单独一个步骤无法得出完整答案；而“装饰性推理”则表现为“低必要性、高充分性”，即步骤可随意移除、打乱，甚至单个步骤就能还原最终答案。
测试结果令人惊讶：绝大多数主流大语言模型都属于“装饰性推理”。在情感分类和数学任务中，移除任意推理步骤后，答案发生变化的概率平均不足17%，而单个步骤就能还原答案的概率超过60%。比如ChatGPT-5.4在情感分类测试中，移除步骤后答案仅在0.1%的案例中改变，意味着它的推理过程几乎完全是事后补充的；Claude Opus虽然依赖步骤的比例稍高（14.8%），但91%的单个步骤就能生成正确答案，冗长的推理更像是“华丽的包装”。
在医疗问答场景中，这种“装饰性”表现得尤为突出：Claude Opus能写出平均5.8步的详细医学推理链，准确率高达93.4%，但移除任意步骤后，答案改变的概率仅为1.7%。也就是说，AI给出的“医学分析”可能只是基于问题直接匹配答案后，编造出的看似合理的推理过程，而非真正参考了这些医学指标。
不过研究也发现了例外：两款小型模型MiniMax-M25和Kimi-K25在特定任务中展现出了真实的推理能力。MiniMax-M25在情感分析中表现出“高必要性、高充分性”的真实推理特征，Kimi-K25在主题分类中对思维链的依赖度达到39%。更值得注意的是，那些参数规模较小的开源模型，整体对思维链的依赖度达到55%，远高于大模型平均11%的水平。研究者认为，小模型因为缺乏足够的参数知识来“走捷径”，必须依赖分步推理才能得出正确答案；而大模型则已经内化了足够多的任务模式，可以通过内部捷径直接得到答案，思维链只是用来优化生成格式的“附加品”。
此外，研究还发现了“输出刚性”现象：不同模型对外展示推理过程的意愿差异极大。Claude和DeepSeek几乎在所有任务中都会生成多步推理，而Qwen3.5-397B则很少这么做；GPT-OSS-120B在情感分类和主题分类中几乎每次都展示推理，但在62%的医疗问答中只输出一个字母答案，完全不提供推理过程，这也给这类模型的可解释性测试带来了障碍。
这项研究的结论对AI监管和高风险场景应用具有重要意义。随着欧盟AI法案等监管框架要求高风险AI系统提供“有意义的逻辑信息”，当前主流大语言模型的思维链解释显然无法满足要求——它们展示的“推理逻辑”并非真实的决策逻辑。研究者建议，在高风险领域选择AI模型时，不仅要关注准确率，更要测试其推理的真实性：哪怕准确率低2%，但能真正进行分步推理的模型，可能更符合监管要求，也更值得信任。
这场研究再次揭示了大语言模型的“黑箱”本质：看似智能的推理背后，可能只是基于训练数据的模式匹配。而要真正解决AI的可解释性问题，或许需要监管力量的推动，迫使厂商放弃这种“表面功夫”，转向真正透明的推理机制。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/yan-jiu-zheng-shi-zhu-liu-da-yu-yan-mo-xing-de-si-wei-lian
